“月 6500원 내면 無制限生成” 딥페이크 映像 활개

東亞日報
入力 2024年 4月 10日 03時 00分

코멘트: 個

좋아요: 個

코멘트: 個

携帶電話 앱서 10秒면 映像完成
텔레그램 等保安메신저 이용도
大部分海外 플랫폼… 團束 어려워

“얼굴을 바꾸는 中입니다.”

携帶電話畵面에 案內文句가 나타났다. 그 後 10秒가 채 안 돼 映像이 完成됐다. 海外에서 만든 한 携帶電話 애플리케이션(앱)에 寫眞을 올린 뒤 ‘얼굴 바꾸기’ 버튼을 누르자 瞬息間에 各種映像 속 人物의 얼굴이 記者의 것으로 바뀐 것. 이 앱은 한 달 使用料 6500원을 내면 願하는 딥페이크(이미지 造作) 映像을 無制限으로 生成해 준다고 弘報했다.

4·10總選을 앞두고 딥페이크 等을 惡用한 造作映像이 판치는 가운데, 이런 映像이 온라인에서 손쉽게 製作되는 것으로 나타났다. 中央選擧管理委員會에 따르면 1月 29日부터 이달 9日까지 摘發된 딥페이크 揭示物은 總 384件이었다. 選菅委는 모두 削除를 要請하고, 그中 3件에는 警告나 遵守促求措置를 내렸다.

9일 본보 기자가 한 텔레그램 채널에 의뢰해 제작한 영상. 2018년 9월 방탄소년단(BTS)의 리더 RM이 미국 뉴욕 유엔본부 신탁통치이사회 회의장에서 열린 유니세프의 행사에서 연설한 원본 영상에 기자의 얼굴이 들어가있다. 손준영 기자 hand@donga.com — 9日本報記者가 한 텔레그램 채널에 依賴해 製作한 映像. 2018年 9月防彈少年團(BTS)의 리더 RM이 美國 뉴욕 유엔本部信託統治理事會會議場에서 열린 유니세프의 行事에서 演說한 元本映像에 記者의 얼굴이 들어가있다. 손준영 記者 hand@donga.com

텔레그램 等保安 메신저에선 携帶電話 앱을 利用하는 것보다 더 精巧한 딥페이크 映像을 만들어 준다며 弘報하는 業者들을 어렵잖게 찾을 수 있었다. 9日購讀者 16萬名이 넘는 한 텔레그램 채널에서는 도널드 트럼프 前美國大統領과 블라디미르 푸틴 러시아 大統領이 活用된 딥페이크 映像을 샘플로 陳列한 채 價格을 흥정하는 業者의 모습을 볼 수 있었다. 記者가 “내가 유엔에서 演說하는 映像을 만들어 달라”며 677원을 支拂하자 實際로 16秒分量의 精巧한 딥페이크 映像을 보내왔다. 映像製作엔 36秒밖에 걸리지 않았다. 이런 채널은 主로 말레이시아와 베트남 等東南亞에 根據地를 둔 業者가 運營하는 것으로 推定된다.

現在虛僞映像에 對한 削除는 警察과 放送通信審議委員會(방심위) 等을 거쳐 이뤄지고 있다. 지난해 11月尹錫悅大統領의 TV 演說을 짜깁기한 映像이 틱톡 等 소셜네트워크서비스(SNS) 等에 퍼졌을 때도 政府가 海外 SNS 運營社에 映像削除를 要請하는 式으로 處理됐다.

9일 본보 기자가 한 휴대전화 애플리케이션(앱)으로 만든 영상. 미국 영화배우 키호이콴이 지난해 3월 제95회 아카데미 시상식에서 남우조연상을 수상하는 모습이 본보 기자의 얼굴로 대체됐다. 손준영 기자 hand@donga.com — 9日本報記者가 한 携帶電話 애플리케이션(앱)으로 만든 映像. 美國映畫俳優 키호이콴이 지난해 3月第95回 아카데미 施賞式에서 男優助演賞을 受賞하는 모습이 本報記者의 얼굴로 代替됐다. 손준영 記者 hand@donga.com

그러나 節次가 여러 段階를 거치고 海外 플랫폼社에 協助를 要請하는 水準에 그치다 보니 제때 削除하기가 어렵다는 指摘이 나온다. 放審委關係者는 “海外事業者들은 業務協力的인 次元으로 進行하기 때문에 削除를 强要할 수도 없다”고 밝혔다.

專門家들은 딥페이크 映像이 有權者의 判斷에 影響을 미치는 事例가 이어지는 만큼 强力한 制裁가 必要하다고 指摘했다. 김명주 서울여대 情報保護學科敎授는 “人工知能(AI)을 活用한 造作映像에 워터마크를 揷入하게 하는 유럽聯合(EU) 等의 先例를 參考해 制度를 整備해야 한다”고 말했다.

손준영 記者 hand@donga.com
서지원 記者 wish@donga.com

#딥페이크 #海外플랫폼 #保安메신저