來年 11月 大選을 앞둔 美國은 人工知能(AI)을 利用한 虛僞 情報로 政治的 混亂을 겪고 있습니다. 올해 1月에는 조 바이든 大統領이 트랜스젠더 女性을 向해 “當身은 決코 眞짜 女子가 될 수 없다”고 嫌惡 發言을 내뱉는 映像이 소셜미디어(SNS)에 퍼졌습니다. 進步的 價値를 强調하는 바이든 政府로서는 支持層 離脫 惡材가 될 수 있는 造作 映像이었습니다.
3月에는 트럼프 前 大統領의 ‘性關係 입막음 疑惑’ 裁判을 앞두고 그가 警察에 連行되는 造作된 이미지가 SNS에 빠르게 流布됐습니다. AI로 만들어진 假짜 이미지였지만 트럼프 前 大統領의 逮捕 消息에 保守層은 結集했습니다. 트럼프 大選 캠프는 公式 사이트에서 假짜 머그샷(犯人 識別龍 얼굴 寫眞) 이미지가 印刷된 티셔츠를 個當 36달러(藥 4萬7000원)에 販賣했습니다.
올해 3月 트럼프 前 大統領이 한 무리의 警察에게 鎭壓당하거나 이들의 追擊을 避해 道路를 疾走하는 假짜 寫眞이 소셜미디어에서 擴散됐다. 트위터 캡처
‘챗GPT의 아버지’, ‘미스터 챗GPT’로 불리는 오픈AI 샘 올트먼 CEO는 올해 5月 “大選이 가까워지고 技術이 漸次 發展하는 狀況을 考慮했을 때 AI가 輿論을 造作하고 거짓 情報를 提供할 수 있다는 點이 深刻하게 憂慮된다”고 했습니다.
勿論 虛僞 情報 汎濫이 美國만의 問題는 아닙니다. 올해 5月 치러진 튀르키예 大選에서 에르도안 大統領은 쿠르드族 分離主義 武裝團體 쿠르디스탄 勞動者黨(PKK)李 野黨 候補를 支持하는 假짜 映像을 支持者들에게 共有했습니다. 民族主義 路線을 앞세우던 에르도안 大統領은 “이걸 보라. 매우 重要하다”며 支持者를 刺戟했습니다.
에르도안은 相對 野黨 候補를 少數 民族인 쿠르드族과 密着된 人物로 꾸준히 攻擊했습니다. K政治에서 與野가 相對 黨을 ‘從北勢力’, ‘土着倭寇’로 낙인찍는 것과 類似한 方式이었습니다. 쿠르드族과의 關係를 疑心받았던 野黨 候補는 結局 大選에서 敗했고, 에르도안은 30年 長期 執權의 門을 열었습니다.
● 來年 總選서 豫告된 ‘AI 딥페이크’ 混亂
지난달 15日 한 유튜브 채널에는 日本 記者가 大韓民國 蹴球스타인 李康仁의 프랑스 파리생제르맹(PSG) 球團 移籍을 두고 蹴球選手 킬리안 음바페와 舌戰을 벌인 映像이 올라왔습니다. 日本 記者가 李康仁 迎入을 ‘마케팅龍’이라고 卑下하자 이를 음바페가 反駁했고, 國內 누리꾼들은 “오늘부터 음바페가 우리 兄”이라고 讚揚했습니다.
프랑스 有名 蹴球選手 음바페가 李康仁 選手를 無視하는 質問을 한 日本 記者와 舌戰을 벌이는 內容의 造作 映像. 유튜브 캡처
該當 映像은 累積 照會數 約 1200萬回를 記錄하면서 큰 話題를 모았습니다. 하지만 이는 實際 映像에 AI로 音聲을 입힌 造作本이었습니다. 그런데도 旣成 言論에서 이 映像이 虛僞임을 指摘하는 데 無慮 14日의 時間이 걸렸고, 많은 이들이 映像 內容을 事實로 믿었습니다.
K政治에서도 虛僞 情報의 危險은 豫見돼 있습니다. 지난해 6·1 地方選擧를 앞두고 尹錫悅 大統領이 國民의힘 南海郡數 候補를 支持하는 ‘딥페이크(AI로 映像, 音聲 等을 變造한 假짜 情報) 映像’이 登場해 論難이 됐습니다.
該當 映像에는 國民의힘이 大選에서 開發한 ‘AI 尹錫悅’이 登場해 “尹錫悅 政府는 여러분과 함께 살기 좋은 南海郡을 만들겠습니다”고 말합니다. AI 尹錫悅 옆엔 ‘박영일 南海郡數와 함께합니다!’라는 文句를 적었습니다. 이는 國民의힘 支持者로 推定되는 人物이 만든 虛僞 情報였습니다.
지난해 6·1 地方選擧를 앞두고 尹錫悅 大統領이 國民의힘 候補를 支持하는 ‘딥페이크’ 映像이 登場했다. 該當 映像은 南海郡數로 出馬한 박영일 候補 支持者가 만든 것으로 推定된다. 더불어民主黨 朴志玹 前 非常對策委員長 페이스북 캡처
美國이나 유럽에 비해 팩트체크 文化가 弱한 우리나라는 虛僞 情報에 매우 脆弱합니다. 專門家들은 우리나라의 SNS 發達, 陣營 間 兩極化로 因해 AI 技術을 惡用한 거짓 뉴스가 汎濫할 可能性이 크다고 指摘합니다.
고려대 情報保護大學院 林鍾仁 夕座敎授는 “우리나라에서는 選擧를 앞두고 딥페이크나 生成型 AI에 依한 虛僞 情報가 美國이나 유럽에 비해 많을 것”이라며 “北韓의 孔雀이나 理念에 사로잡힌 市民團體들이 手段과 方法을 가리지 않고 뛰어들 可能性도 있기 때문”이라고 指摘했습니다.
딥페이크 水準은 漸漸 高度化되고 있습니다. 더 以上 粗惡한 合成 映像이 아니라 專門家도 虛僞 情報임을 區別하기 어려운 水準에 이르렀습니다. 林 敎授는 “오픈 AI가 만든 假짜 映像 判讀 프로그램의 正確度가 26% 水準”이라며 “來年 總選을 앞두고는 僞造 與否를 判別하기 어려운 假짜 映像이 더 많아질 것”이라고 했습니다.
챗GPT, 구글 바드 等 生成型 AI에 依한 虛僞 選擧運動 可能性도 매우 큽니다. 누구나 마음만 먹으면 生成型 AI를 利用해 言論 記事, 輿論調査 要約文, 設問紙를 만들어 SNS에 뿌릴 수 있고, 거짓 情報는 霎時間에 擴散됩니다.
● AI발 民主主義 威脅… 國會는 傍觀
그렇다면 이러한 AI발 民主主義 威脅을 防禦할 手段은 얼마나 準備됐을까요? 國會는 事實上 손 놓고 있는 狀況입니다. 現行法에는 AI를 活用한 虛僞 情報를 規制하는 別途 條項이 없습니다. 公職選擧法, 刑法, 情報通信網法 等 旣存 法律을 適用해야 합니다.
AI 虛僞 情報를 規制하는 內容의 公職選擧法 改正案이 6件 발의돼 있지만 모두 國會에서 繫留 中입니다. 지난해 大選에서 尹錫悅 候補가 ‘AI 尹錫悅’을 통해 大衆 親和的인 모습을 보이자 민주당이 “딥페이크를 통해 公職候補者의 短點을 숨기는 것은 有權者를 欺瞞하는 行爲”라고 批判했지만 大選이 끝나자 그 以上의 論議는 進行되지 않았습니다.
문송천 카이스트 經營大學院 名譽敎授는 “與野가 해야 할 일은 안 하고 마지막 瞬間에 窮地에 몰려 밀린 宿題하듯이 法案을 통과시키고 있다”며 “政治人 스스로 國會 水準에 對해서 돌아봐야 할 때”라고 따끔히 指摘했습니다.
도널드 트럼프 前 美國 大統領 大選 캠프가 公式 홈페이지에서 販賣한 머그샷 티셔츠. 造作된 假짜 映像이 現實 政治에 어떤 影響을 미치는지 잘 보여주는 事例다. 트럼프 大選 캠프 홈페이지 캡처
中央選擧管理委員會는 지난해 1月 ‘딥페이크 映像 關聯 法規運用基準’을 發表했습니다. 內容을 要約하면 딥페이크 映像이 實際 候補者의 行爲로 誤認될 수 있거나 內容이 虛僞라면 虛僞事實 公表罪에 該當한다는 것입니다. 딥페이크 映像 임을 表記하지 않을 境遇에도 같은 罪에 該當합니다.
選菅委 關係者는 “動映像을 利用한 選擧運動은 虛僞 事實이나 誹謗이 없으면 問題가 없다”며 “實際 人物이 아닐 境遇 AI 假想 人物이라는 表示를 하면 된다”고 說明했습니다. 그러면서 “生成型 AI의 境遇에는 아직 明確한 基準이 나오지 않았지만 虛僞事實 空表 等 違法 行爲에 活用될 수 있다고 보고 對應 方案을 마련 中”이라고 했습니다.
다만 死角地帶는 如前합니다. 選菅委의 ‘딥페이크 基準案’은 映像을 規制할 뿐 造作된 이미지나 오디오는 包含하고 있지 않으며, 딥페이크 映像을 標示하는 基準도 具體的으로 規定하지 않고 있습니다. 投票 直前 眞僞 確認이 어려운 거짓 情報를 일부러 퍼뜨려 有權者의 選擇에 混亂을 줄 可能性도 매우 큽니다.
美國의 境遇 一部 州에서 딥페이크 選擧運動에 關한 規定을 두고 있습니다. 美國 텍사스州는 候補者에게 損害를 입히거나 選擧 結果에 影響을 줄 意圖로 딥페이크 映像을 製作하고 流布하는 行爲를 處罰합니다. 캘리포니아州에서는 惡意的인 이미지, 오디오, 비디오 編輯을 禁止하고 있습니다.
林 敎授는 “民主主義 秩序를 毁損하는 行爲에 對해서는 痲藥처럼 剛하게 處罰하겠다는 意志가 必要하다”며 “法務部와 選擧管理委員會가 合同으로 解法을 찾아야 한다”고 强調했습니다.
● 길거리 懸垂幕으로 ‘嫌惡 戰爭’ 펼치는 與野
‘李在明판 더글로리’ ‘깡牌지 黨代表냐’ ‘脫黨하면 돈封套가 사라지나’(국민의힘 懸垂幕)
‘李完用의 復活인가’ ‘親日本色 賣國政權’ ‘國民凌蔑 屈辱外交’(民主黨 懸垂幕)
올해 3月 仁川 彌鄒忽區 주안역 一帶 橫斷步道에 여러 政黨에서 내건 政治 懸垂幕이 흉물스럽게 걸려 있다. 仁川市 提供
國會는 딥페이크나 生成型 AI 規制에는 손 놓는 代身 全國 길거리를 ‘懸垂幕 公害’로 덮고 있습니다. 學生들이 다니는 學校 앞에도 政治 嫌惡를 부추기는 거친 말이 가득한 懸垂幕이 앞다퉈 걸리고 있습니다.
市民의 不便이 커지자 行政安全部는 올해 5月 어린이·老人·障礙人 保護區域에 政黨 懸垂幕을 設置할 수 없고, 街路燈과 街路樹에 걸리는 懸垂幕 個數도 2個 以下로 制限했습니다. 그러자 群小政黨이 빈자리를 파고들었습니다. 이들은 特定 集團을 겨냥한 嫌惡 表現이나 陰謀論이 包含된 懸垂幕을 거리낌 없이 내걸고 있습니다.
文 名譽敎授는 “美國과 英國에서 길거리 懸垂幕은 不法”이라며 “우리나라는 衆口難防으로 懸垂幕을 揭示하면서 政治에 對한 不信을 높이고 있다”고 指摘했습니다.
이대로 가면 來年 總選은 온라인에서는 딥페이크와 生成型 AI의 거짓 情報, 오프라인에서는 막말 政治 懸垂幕으로 因한 混濁 選擧 可能性이 큽니다. 그리고 그 被害는 고스란히 有權者들이 堪當해야 할 것입니다.
| ‘韓國 政治의 水準은 왜 나아지지 않을까?’ 大統領, 國會議員 選擧를 各各 두 番씩 取材하며 가진 疑問입니다. 海外 政治와 比較하면서 제 나름의 생각을 整理하고 있습니다. 우리 政治의 品格을 높일 解法을 讀者 여러분과 함께 찾아보고 싶습니다. 지난週 政治人 資格試驗과 人性檢査 必要性에 關한 說明을 보내주신 讀者님께 感謝드립니다. 이메일
empty@donga.com
으로 所重한 意見을 기다립니다.
|
윤다빈 記者 empty@donga.com
-
- 좋아요
- 0
個
-
- 슬퍼요
- 0
個
-
- 火나요
- 0
個
-
- 推薦해요
- 個
