• 靑少年도 오픈소스 活用 딥페이크 製作 可能

• 防牌가 進化하면 窓도 進化하는 ‘生成的 對立 神經網’

• AI가 만들어낸 딥페이크가 國家 混亂 일으킬 수도

• 글로벌 ICT 恐龍들 惡用 防止에 소매 걷어붙여

딥페이크 포르노 犯罪에 對한 處罰을 强化하는 法案이 最近 國會 本會議를 通過했다. 딥페이크 포르노는 個人의 映像 및 寫眞 데이터를 淫亂物과 合成한 것이다. 이는 被害者에게 性的 羞恥心을 誘發할 수 있다. 

法務部에 따르면 6月 25日부터 ‘딥페이크 포르노를 製作 및 配布한 者는 5年 以下의 懲役 또는 5000萬 원 以下의 罰金刑’을 宣告받는다. 營利 目的인 境遇에는 ‘7年 以下의 懲役’으로 加重處罰을 받는다. 

이렇듯 處罰이 强化된 背景에는 딥페이크 포르노 製作 件數의 가파른 增加가 있다. 딥페이크 探知 專門 企業 딥트레이스랩스(Deeptrace Labs)는 2019年 1~9月 1萬4678個의 딥페이크 映像을 發見했다. 그中 96%가 포르노 映像이다. 

더 놀라운 事實은 딥페이크 포르노 被害者 中 韓國人이 많다는 點이다. K-팝 女子歌手를 合成한 포르노 比率이 25%에 達한다. 가장 많은 被害를 본 영미系 女俳優(46%) 다음으로 많은 數値다.

딥페이크? AI가 만들어낸 假짜 情報

딥페이크는 人工知能(AI)에서 主로 使用되는 機械學習 알고리즘 ‘딥러닝(Deep Learning)’과 假짜(Fake)’라는 낱말을 合成한 新造語다. 쉽게 말해 딥페이크는 AI가 만들어낸 假짜 情報다. 



딥페이크 具現 方式은 두 갈래로 나뉜다. 첫 番째 方法은 旣存 製作物에 K-팝 歌手 等 具現 對象을 合成하는 것이다. 두 番째 方法은 具現 對象의 行爲 데이터를 基盤으로 合成 없이 새로운 映像을 만들어내는 것이다. 

딥페이크 포르노에서는 合成 方法이 더 많이 活用된다. 딥페이크 對象으로부터 눈, 코, 입 等 情報와 陰性 높낮이 等을 抽出해 合成한다. 抽出 段階에서 具現 對象의 수많은 데이터를 AI가 學習한다. 

抽出한 데이터를 合成할 때 使用하는 알고리즘은 ‘生成的 對立 神經網(GAN)’이다. GAN은 生成 모델과 判別 모델이 競爭하면서 正確度를 높이는 機械學習 알고리즘의 一種이다. 生成 모델은 쉴 새 없이 合成物을 만들어내고 判別 모델은 빠른 速度로 生成物의 正確度를 把握한다. 生成 모델이 判別 모델을 完璧하게 속일 때까지 機械學習이 이어진다. 이런 過程을 거치다 보니 사람의 눈에는 딥페이크 映像이 事實로 보일 수밖에 없다. 

딥페이크 對象과 旣存 資料를 合成하지 않는 方式은 對象의 特徵을 抽出해 새로운 데이터를 만들어내는 것이다. 最近 流行하는 것으로 ‘音聲合成’이 있다. 글字를 入力하면 使用者가 願하는 音聲으로 텍스트를 읽어준다. “撤收 氏 사랑해요”라는 텍스트를 女俳優의 音聲으로 들을 수 있다. 一例로 SKT는 有名人 목소리를 椄木한 알람 서비스 ‘셀럽’ ‘에스엠타운 스케줄’ 等을 提供하고 있다. 

‘映像合成’ 技術도 있다. 머니브레인은 2019年 7月 얼굴 映像合成 技術을 公開해 注目받았다. 筆者가 展示會에서 이 技術의 試演을 觀覽했는데 注意 깊게 살펴보지 않고서는 ‘假짜’ 與否를 分揀하기 어려웠다. 

딥페이크 技術은 나날이 發展한다. 지난해 5月 時刻디자이더 도그 로블이 自身의 行動과 表情을 캐릭터에 곧바로 反映하는 技術을 선보였다. 로블이 特定 表情과 動作을 지으면 映像 속 人物이 그대로 따라 하는 方式이다.

딥페이크의 明과 暗

딥페이크 技術이 이렇듯 빠른 速度로 發展하는 건 需要가 많아서다. 假想空間(VR), 映像通話 等에서 엔터테인먼트 要素로 活用할 수 있으며 各種 콘텐츠 製作費用도 낮춘다. 셀러브리티가 直接 錄畫나 錄音에 參與하지 않고도 映像을 製作할 수 있다. IT 企業 신디시아가 딥페이크를 活用해 蹴球 스타 데이비드 베컴의 말라리아 退治 弘報 캠페인을 9個 言語로 製作한 게 代表的 事例다. 스페이스150은 트레비스 스코트의 旣存 노래 歌詞와 멜로디를 딥페이크로 學習해 新曲과 뮤직비디오를 製作했다. 오디오북, 뉴스 製作 等에서도 앞으로 딥페이크를 손쉽게 活用할 수 있을 展望이다. 

問題는 딥페이크 技術을 惡用하는 이들이 있다는 點이다. 딥페이크는 開發 소스가 公開돼 있다. 누구나 딥페이스랩(DeepFaceLab), 페이스스왑(Faceswap) 等을 活用해 딥페이크 技術을 具現할 수 있다. 使用者가 指目한 寫眞을 딥페이크를 통해 누드로 變更하는 애플리케이션이 出市돼 論難이 인 적이 있는데 오픈소스를 活用해 앱을 만든 것이다. 

딥페이크 技術에 接近하기가 쉬운 까닭에 이를 利用한 犯罪는 더욱 늘어날 것으로 보인다. 인터넷 匿名 空間인 딥 웹(DeepWeb)李 惡用돼 犯罪 空間인 다크웹(Darkweb)을 탄생시킨 것처럼 말이다. 

딥페이크가 危險한 理由는 첫째, 앞서 言及했듯 누구나 쉽게 惡用할 수 있어서다. 컴퓨터 프로그램을 다룰 줄 안다면 靑少年도 딥페이크 서비스를 開發할 수 있다. 둘째, 些少한 惡用만으로도 社會的으로 큰 混亂을 가져올 수 있다는 點이다. 一例로 大統領의 假짜 演說 等이 유튜브를 통해 霎時間에 번질 수 있다. 

지난해 2月 世界 碩學 26名은 ‘AI의 惡用 : 展望, 防止 및 對應(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)’ 報告書에서 딥페이크가 政治的으로 惡用될 수 있음을 警告하기도 했다. 

2018年 4月 美國 콘텐츠 製作社인 버즈피드가 危險性을 警告하고자 딥페이크 映像을 유튜브에 올렸다. 이 映像에는 버락 오바마 前 美國 大統領이 도널드 트럼프 大統領을 非難하는 모습이 담겨 있었다. 버즈피드는 映像 끝部分에 이 映像이 딥페이크로 造作된 것임을 밝혔다. 딥페이크를 利用해 社會 混亂을 일으킬 수 있음을 實際로 보여준 것이다. 

現實 世界에서 딥페이크 映像이 社會的 波紋을 일으킨 적도 있다. 마테오 렌치 前 이탈리아 總理가 다른 사람을 侮辱하는 딥페이크 映像이 나돌았으며 2018年 멕시코에서는 大統領 候補를 깎아내리기 위한 딥페이크 映像이 온라인에 揭示됐다.

‘믿을 映像物이 사라지고 있다’

딥페이크 技術의 惡用을 막는 일에 情報通信技術(ICT) 分野 글로벌 恐龍 企業들이 뛰어들고 있다. 마크 저커버그 페이스북 創業者는 美國 大統領選擧에서 딥페이크 콘텐츠를 遮斷하고자 努力할 것이라고 밝혔다. 

페이스북은 지난해 10月부터 올해 3月까지 1000萬 달러(120億 원)를 投入해 ‘딥페이크 探知 大會(DFDC)’를 열었다. 參加者는 페이스북이 提供한 데이터를 活用해 딥페이크 이미지를 찾는 競演을 벌였다. 아마존이 이 大會 參加者들에게 아마존웹서비스(AWS) 利用券 100萬 달러를 提供했으며 마이크로소프트(MS), 파트너십온AI도 同參했다. 

구글 또한 딥페이크 探知 方法과 關聯한 硏究를 進行하고 있다. 구글은 自身들이 모은 데이터를 다른 機關의 딥페이크 探知 硏究를 위해서도 提供한다. 눈 깜빡임의 부자연스러움을 把握하는 方式 等 探知 技術도 進化하고 있다. 最近에는 블록체인의 無結成 機能을 活用해 映像 資料 造作 與否를 探知하는 方法도 考案됐다. 

이렇듯 딥페이크 惡用 防止 硏究가 活潑히 進行되고 있으나 아직은 갈 길이 멀다. 防牌가 進化할수록 窓도 進化한다. 앞서 GAN에서 살펴봤듯 더 優秀한 判別 알고리즘이 더 正確한 딥페이크 結果物을 만들어낸다. 

눈 깜빡임의 부자연스러움을 통해 眞僞를 把握하는 技術을 뉴욕주립大가 論文으로 發表하자 해커들이 곧바로 補完 技術을 마련했다. 게임理論(競爭 相對의 反應을 考慮해 自身의 最適 行爲를 決定해야 하는 狀況에서 醫師決定 行態를 硏究하는 經濟學 및 數學 理論)처럼 서로가 서로를 刺戟해 進化하는 槍과 防牌의 싸움인 것이다. 

世界 各國이 아직까지는 딥페이크 探知에만 集中하는 모습이다. 딥페이크 포르노를 생각해 보자. 探知가 重要할까. 配布 防止가 더 重要할까. 配布者가 누구인지 밝혀내 檢擧하는 게 무엇보다 必要하다. “世上에 믿을 놈 없다”는 말이 있다. 誇張해서 말하면 디지털 世界에서 ’믿을 映像物이 사라지고 있다’.