AI 生成이미지 올리자 3秒만에 “警告”… 50秒뒤 “確實”

東亞日報
入力 2024年 4月 5日 03時 00分

홍정수 記者

코멘트: 個

좋아요: 個

코멘트: 個

딥페이크 感知 ‘트루미디어’ 써보니
“幾何級數的增加虛僞뉴스 對應”
言論-非營利團體等에 無料提供
寫眞 ‘포토샵 造作’엔 誤謬 드러내

비영리단체 트루미디어가 2일 공개한 도널드 트럼프 전 미국 대통령의 딥페이크 사진. 탐지도구에 이미지를 업로드하자 “매우 의심스럽다”고 판단했다. 사진 출처 트루미디어 홈페이지 — 非營利團體 트루미디어가 2日公開한 도널드 트럼프 前美國大統領의 딥페이크 寫眞. 探知道具에 이미지를 업로드하자 “매우 疑心스럽다”고 判斷했다. 寫眞出處 트루미디어 홈페이지

“初期探知結果: 매우 의심스러움(Highly Suspicious).”

도널드 트럼프 前美國大統領이 黑人靑年들에게 둘러싸인 채 환하게 微笑를 짓는 한 張의 寫眞. 하지만 非營利團體 ‘트루미디어’ 웹사이트에 이 이미지를 업로드瑕疵, 3秒 만에 鮮明한 붉은色 테두리가 생기며 警告文句가 떴다. 該當寫眞이 生成型人工知能(AI) 道具로 만들어진 ‘假짜’일 可能性이 짙다는 뜻이다.

11月美大選을 7個月假量 앞둔 狀況에서 트루미디어가 最近論難이 뜨거운 AI 딥페이크를 判別할 수 있는 서비스를 無料로 홈페이지에 2日公開했다. 現在는 商業的目的이 없는 政府機關이나 非營利團體, 言論等에 利用을 承認하고 있다.

트루미디어는 트럼프 前大統領寫眞을 假짜로 判別하고 約 50秒 뒤엔 그렇게 評價한 根據 8가지도 알려줬다. ‘AI 이미지 生成道具活用可能性’ 項目은 “100% 確實”, ‘明度·色相情報로 分析한 造作可能性’ 項目은 “88% 確實” 等이다.

트루미디어를 이끄는 이는 美國 AI 硏究의 先驅者로 꼽히는 앨런AI硏究所創立者 오렌 에치오니 워싱턴대 敎授다. 그는 “言論社의 人力은 줄어들고 製作時間은 갈수록 促迫해지고 있는데, 虛僞情報는 幾何級數的으로 增加하고 있다”며 開發理由를 說明했다.

동아일보 記者가 使用承認을 받아 實驗해본 結果 트루미디어 서비스는 AI로 만들어진 寫眞은 勿論映像들도 잘 判別해냈다. 仁宗은 勿論言語도 별다른 障礙物이 되지 않았다.

例를 들어, 2022年韓國大選을 앞두고 國民의힘이 弘報用으로 製作했던 ‘AI 尹錫悅’ 映像은 3秒 만에 “매우 의심스러움”이라는 初期探知結果를 내놓았다. ‘高級音聲合成’ 項目에선 93%, ‘얼굴 合成’ 項目에선 79%의 可能性으로 만들어진 映像이라고 알아맞혔다.

反面尹錫悅大統領의 公式 인스타그램 計定에 2日揭示된 忠南 공주시 公州醫療院訪問寫眞을 올렸더니, 軟豆色 테두리와 함께 “AI 造作可能性稀薄”이라는 結果가 나왔다. ‘造作 이미지 빅데이터로 學習한 AI 探知’ 項目에선 32% 確率로 ‘不分明’하다고 判斷했지만, 나머지 7個項目은 모두 ‘造作證據 없음’이라고 했다.

반면 영국 케이트 미들턴 왕세자빈의 포토샵 조작 사진은 “AI 조작 가능성 희박”이란 결과가 나왔다. 사진 출처 트루미디어 홈페이지 — 反面英國 케이트 미들턴 王世子빈의 포토샵 造作寫眞은 “AI 造作可能性稀薄”이란 結果가 나왔다. 寫眞出處 트루미디어 홈페이지

트루미디어는 該當 서비스의 正確度가 90%에 이른다고 보고 있다. 하지만 弱點도 분명했다. 生成型 AI 道具로 製作하지 않고, 實際撮影한 寫眞을 編輯 프로그램으로 造作한 境遇엔 誤謬가 드러나기도 했다. 最近 포토샵 造作이 밝혀졌던 英國 케이트 미들턴 王世子빈의 家族寫眞으로 實驗했더니 “AI 造作可能性稀薄”이라고 나왔다. AI를 利用하지 않았단 건 맞지만, 造作을 잡아내진 못한 것이다.

에치오니 敎授는 2日 뉴욕타임스(NYT) 인터뷰에서 限界를 認定하면서도 “아무리 最高의 道具라도 100% 確實하게 答할 순 없다”며 “選擧를 앞두고 잘못된 情報의 쓰나미를 보게 될 可能性이 높아 怯이 난다”고 했다. 虛僞情報를 막으려면 規制當局과 技術企業들의 協力이 갈수록 必要하단 點도 强調했다.

홍정수 記者 hong@donga.com

#ai 生成이미지 #딥페이크 感知 #트루미디어 #寫眞判別