[社說]“딥페이크 6500원에 10秒면 製作”… 摘發-削除速度가 關鍵

東亞日報
入力 2024年 4月 9日 23時 54分

코멘트: 個

좋아요: 個

코멘트: 個

4·10總選選擧運動過程에서 人工知能(AI) 技術로 만든 딥페이크 映像等을 利用한 事例가 쏟아졌다. 中央選擧管理委員會가 9日까지 摘發한 딥페이크를 利用한 選擧法違反事例는 384件에 達한다. 1月 29日施行된 改正選擧法에 따라 選擧일 90日前부터 選擧運動에 딥페이크 映像, 이미지, 音響使用을 禁止하고 있는데도 하루 平均約 5.3件씩 不法行爲가 摘發된 셈이다.

AI 技術의 發展으로 누구든 마음만 먹으면 손쉽게 딥페이크물을 만들 수 있게 된 것이 딥페이크 擴散의 주된 要因이다. 6500원을 내면 10秒 만에 簡單한 딥페이크 映像을 만들어 주는 애플리케이션이 나와 있고, 메신저를 통해 專門業體에 依賴할 수도 있다. 政治人들은 公開된 映像과 寫眞이 많아 딥페이크 製作이 더 쉽다. 이렇다 보니 主要政治人이 特定政黨 또는 候補者를 非難하거나 嘲弄하는 것처럼 造作한 映像도 登場했다. 實際人物과 얼굴, 목소리가 거의 똑같아 一般市民들로서는 眞僞를 分揀하기 어렵다.

選擧에서 딥페이크물이 特히 問題가 되는 것은 소셜네트워크서비스(SNS)를 통해 빠르고 廣範圍하게 퍼진다는 特性 때문이다. 選菅委는 72名으로 딥페이크 專擔팀을 構成해 對應하고 있지만, 이들이 數많은 딥페이크물을 모니터링하고 鑑別해 摘發하기까지는 時間이 걸린다. 不法 딥페이크 映像을 確認해도 X(옛 트위터) 等海外 SNS 業體에 要請해서 削除하기까지는 相當한 時間이 必要하다. 그 사이에 딥페이크 映像은 온라인에서 걷잡을 수 없이 擴散되기 때문에 削除가 이뤄져도 虛僞情報遮斷效果는 制限的이다.

이미 海外에서는 딥페이크물이 選擧에 直接的인 影響을 미친 事例가 續續 나타나고 있다. 지난해 튀르키예 大選에서는 選擧일 直前 테러 集團이 野黨候補를 支持한다는 딥페이크 映像이 퍼졌고, 이는 與黨候補가 勝利하는 데 重要한 要因이 된 것으로 分析됐다. AI 時代에 딥페이크 製作은 繼續 늘어날 可能性이 크다. 關鍵은 政府와 民間業體들이 協力해 不法 딥페이크물을 迅速하게 찾고 遮斷하는 시스템을 構築하는 것이다. 그래야 虛僞情報가 有權者의 判斷을 흐리게 하는 일을 막을 수 있다.

#딥페이크 #10秒 #製作