죽은 政治人도 造作해내는 AI, 言語-體制莫論選擧판 흔든다 [글로벌 포커스]

東亞日報
入力 2024年 2月 24日 01時 40分

코멘트: 個

좋아요: 個

코멘트: 個

슈퍼 選擧의 해, AI 딥페이크 ‘槍과 防牌’ 싸움
印尼-印度, 딥페이크 映像技術로 死亡한 政治人 등장시켜 支持呼訴
비키니 映像-假짜 示威隊 모습 等… 惡意的으로 만든 콘텐츠도 擴散
粗惡한 水準의 映像-寫眞이라도 狀況따라 眞짜로 여겨지기 쉬워
20個 빅테크 共同對應協約했지만… 非英語圈에선 實效性 없단 指摘도

“2024年選擧勝利를 祝賀드립니다. 나는 여러분 모두가 투표하러 나올 것이라고 確信했습니다.”

8日 치러진 파키스탄 總選의 開票結果가 續續 나오고 있던 9日 저녁. 壬亂 칸 前總理의 소셜미디어 X(옛 트위터) 計定엔 그의 勝利演說映像이 올라왔다. 칸 前總理는 自信滿滿한 목소리로 그가 이끄는 政黨 파키스탄正義運動(PTI)李多數議席을 차지했다고 宣言했다. 하지만 이때 그는 演說은커녕, 映像을 찍으러 나올 수조차 없었다. 監獄에 갇혀 있었기 때문이다. 그리고 映像 왼쪽 上段엔 ‘네 番째 公式 AI(人工知能) 陰性’이란 案內가 나와 있었다. 收監中인 政治人이 AI로 自身을 代身할 ‘假짜 壬亂 칸’을 만들어 選擧에 活用한 것이다.

2024年은 이른바 ‘슈퍼 選擧의 해’다. 韓國을 包含해 76個 나라에서 約 42億名이 全國單位選擧를 치른다. 特히 올해는 AI가 選擧遊說에 積極的으로 使用된다는 側面에서, 選擧 흐름 自體가 바뀌는 變曲點이 될 수도 있다. 韓國은 與野合意로 選擧에 AI를 活用하지 않기로 했지만, 言語圈과 政治體制를 가리지 않고 AI가 眞實에 基盤해 有權者의 選擇을 이끌어내야 하는 民主主義選擧의 本質을 威脅할 수도 있다. 世界 곳곳의 選擧판에서 AI를 놓고 벌어지는 ‘槍과 防牌의 싸움’을 들여다봤다.

● 他界한 政治人까지 끌어내는 ‘AI 復活’

칸 前總理는 腐敗 및 機密文書流出嫌疑로 有罪判決을 받고 지난해 8月부터 監獄에 갇혀 있다. 이 때문에 總選遊說가 本格化되던 지난해 가을부터 AI를 利用한 演說로 支持를 呼訴해 왔다. 獄中에서 辯護人에게 메모를 傳達하면 이를 美國 스타트업 일레븐랩스의 소프트웨어를 使用해 AI 딥페이크 映像을 製作했다.

이미 世上을 떠난 政治元老들을 AI로 復活시킨 境遇도 있다. 인도네시아에서는 14日大選과 總選을 앞두고, 2008年 86歲의 나이로 他界한 獨裁者 수하르토 前大統領을 딥페이크 映像으로 製作했다. X에 올라온 約 3分 길이의 映像에는 “나는 인도네시아의 2代大統領 수하르토”라고 말門을 여는 場面이 生前 모습 그대로 담겨 있다. 卓上 앞에 앉은 그가 숨을 쉴 때마다 가슴이 오르내렸고, 表情을 지을 때마다 손가락과 眉間 주름도 자연스럽게 움직였다. 勿論 모두 AI로 만든 假짜다.

32年間獨裁執權한 수하르토 前大統領은 人權彈壓等으로 批判받으면서도, 任期 동안 急激한 經濟成長을 이루기도 해 評價가 엇갈리는 人物이다. 수하르토 前大統領의 政治基盤이었던 골카르당은 그에 對한 鄕愁를 느끼는 有權者들을 노려 該當映像을 만들었다. 골카르당의 에르윈 樂士副總裁는 X에 映像을 올리며 “수하르토 前大統領이 인도네시아에 가져온 많은 成功을 尊重하고 그의 奉仕를 記憶해야 한다”고 쓰기도 했다. 이 映像은 X에서만 470萬回가 넘는 照會數를 記錄하고 틱톡과 유튜브 等多樣한 플랫폼으로 퍼져 나갔다.

當然히 모두가 ‘復活한 수하르토’를 반긴 건 아니었다. 이미 世上을 떠난 人物, 그것도 獨裁者를 내세운 딥페이크 映像에 批判과 反撥도 쏟아졌다. 한 市民은 美國 CNN放送과의 인터뷰에서 “勿論 수하르토가 다시 살아났다고 믿는 사람은 아무도 없을 것”이라며 “하지만 이 나라에서 수하르토와 그의 獨裁理念이 다시 人氣를 얻고 있다는 게 두렵다”고 했다.

印度에서도 비슷한 일이 일어났다. 2018年 94歲로 死亡한 有名元老政治人 무투벨 카루나니디 前 타밀나두주 總理의 演說映像이 지난달 소셜미디어에 올라왔다. 그의 트레이드마크였던 선글라스와 흰色 셔츠, 어깨의 노란 숄을 걸친 채, 約 8分 동안 現在印度東南部 타밀나두주를 이끄는 그의 아들 M K 스탈린을 稱讚하는 內容이었다.

카루나니디 前總理는 人口 7000萬名이 넘는 타밀나두주에서 20年 동안 5番이나 總理를 지냈다. 이 때문에 아직도 이 地域에서 政治的影響力이 相當하다. 映像을 製作한 것도 카루나니디가 屬했던 DMK黨이다. DMK黨은 “該當映像의 反應이 肯定的이었다”며 올 4月豫定된 總選에서도 ‘AI 카루나니디’ 映像活用을 檢討하고 있다.

굳이 世上을 떠난 政治人까지 AI로 復活시키는 意圖는 뭘까. 有權者들, 特히 中壯年層은 過去의 榮光을 그리워하는 性向이 있다. 特히 지난 時期急速한 經濟成長을 經驗한 地域일수록 이런 雰圍氣가 剛하다고 한다. 印度政治評論家인 수만스 蘿蔓은 알자지라 放送에서 “死亡한 指導者들이 살아 있는 政治人들보다 人氣 있는 境遇가 많다”며 “이를 利用한 政治 캠페인에 最近政黨들이 熱狂하고 있다”고 말했다.

● 女性政治人 비키니 合成等惡意的映像도

自己陣營에 對한 支持나 好感을 얻기 위해 AI를 活用하는 境遇는 ‘兩班’에 該當한다. 實際로는 相對陣營을 攻擊하려 惡意的으로 만든 假짜 AI 딥페이크 콘텐츠가 훨씬 빠르게 늘어나는 趨勢다.

지난달 7日總選을 치른 방글라데시에선 1個月使用料 24달러(約 3萬 원)인 싸구려 AI 툴을 活用한 딥페이크 映像들이 지난해 내내 온라인에서 亂舞했다. 지난해 7月 페이스북에 올라온 野黨女性政治人壘民 파르하나와 니푼 로이가 水泳服을 입고 있는 動映像이 代表的이다. 방글라데시는 이슬람 價値觀이 支配的인 國家다. 女性候補가 水泳服을 입고 맨살을 드러내는 건, 이들의 政治行步에 엄청난 打擊을 줄 수도 있다. 事實確認機關 ‘루머스캐너’가 나서 “AI로 만들어진 假짜”라고 報道했지만, 該當映像은 繼續해서 퍼져 나갔다.

이것뿐만이 아니다. 지난해 9月現地 온라인 媒體 ‘BD 폴리티코’는 AI 앵커 ‘에드워드’가 “現政權과 對立하는 美國外交官들이 選擧에 介入하고 暴力을 行使했다”고 批判하는 뉴스 映像을 揭載했다. 美 로스앤젤레스 AI 業體의 소프트웨어로 만든 映像이었지만, AI 앵커라는 案內는 어디에도 없었다. 이로 인해 美國이 野黨 BNP를 돕기 위해 거짓 所聞을 퍼뜨리고 있다는 確認되지 않은 情報까지 온라인 媒體들을 中心으로 事實인 것처럼 擴散됐다.

AI를 活用해 巧妙하게 選擧法을 넘나든 事例도 있다. 인도네시아 게린드라黨의 有力大選走者였던 프라洑워 守備安土 캠프에서 初等學生支援公約을 弘報하려 AI로 어린이가 登場하는 TV 廣告를 製作했다. 어린이의 政治廣告出演을 禁止하는 法을 迂廻的으로 避해 가려는 것이었다. 하지만 AI로 만든 映像이란 事實을 알리지 않아, 오히려 政治에 어린이를 利用했다는 非難이 거세졌다. 게린드라當代辯人은 “技術이 進步해서 映像 속 아이를 實際人物로 錯覺하는 이들이 있을 수 있다”며 窮塞하게 辨明했다.

● 16個國서 딥페이크 虛僞情報 빠르게 擴散

AI가 選擧에 미치는 影響은 갈수록 커지는 雰圍氣다. 國際人權團體 프리덤하우스의 지난해 10月報告書에 따르면 2022年 6月부터 지난해 5月까지 1年 동안 적어도 16個國家에서 딥페이크 等生成型 AI를 利用해 虛僞情報를 만들고 퍼뜨렸다.

이런 AI 콘텐츠들은 選擧는 勿論日常的인 이슈에 對한 輿論形成에도 이미 相當한 影響을 끼치고 있다. 지난해 프랑스에서는 年金改革을 要求하며 抗議示威에 參席했던 高齡의 男性이 警察에 둘러싸인 채 피를 흘리는 이미지가 소셜미디어에 퍼졌다. 當時該當寫眞은 에마뉘엘 마크롱 大統領에 對한 批判輿論이 急速度로 커지는 데 寄與했다. 하지만 한참 뒤에야 該當男性寫眞은 AI로 만들어졌다는 事實이 밝혀졌다.

이렇다 보니 ‘AI 政治 컨설팅’이라는 새로운 領域이 前途有望한 産業으로 떠오르기도 한다. 印度最大政治컨설팅 會社인 자비스 컨설팅은 알자지라에 “廣告等 AI를 活用한 選擧 콘텐츠 마케팅 問議가 쏟아지고 있다”며 “올해 4∼5月選擧에서만 約 6000萬 달러(約 800億 원) 規模의 市場이 열릴 것”으로 展望했다. AI 수하르토 映像을 올린 인도네시아 게린드라黨의 樂士副總裁도 “AI가 캠페인에 메시지를 傳播하는 좋은 媒體가 될 수 있다”고 했다.

事實 AI 딥페이크 映像은 몇몇 境遇를 除外하면 有心히 살피면 假짜라는 걸 눈치챌 수 있을 程度로 粗惡한 境遇가 많다. 칸 前總理의 勝利演說映像은 1分 34秒分量이지만, 그가 實際로 말하는 듯한 分量은 7秒에 不過하다. 그마저도 여러 대목에서 音聲과 입 模樣이 맞지 않는다.

최병호 고려대 人工知能硏究所敎授는 東亞日報와의 通話에서 “完成度가 높지 않은 映像이라도 狀況에 따라 사람들이 眞짜라고 믿어버릴 可能性은 언제든지 存在한다”며 “이미 眞僞區別이 어려운 水準의 技術이 登場한 만큼, 머지않은 未來에 큰 費用을 들이지 않고도 眞짜 같은 假짜 AI 콘텐츠를 쏟아내는 時代가 올 것”이라 내다봤다.

各國政府도 AI를 袖手傍觀하고 있는 것은 아니다. 인도네시아와 방글라데시, 印度等은 虛僞情報 콘텐츠를 傍觀하는 플랫폼에 法的責任을 묻는 法案을 통과시켰다. 하지만 이런 規制가 오히려 權威主義政府에선 자칫 檢閱手段으로 逆利用될 수 있단 指摘도 나온다. 프리덤하우스는 “選擧를 앞두고 政府檢閱이 强化되면 與黨에 對한 批判과 獨立的報道가 潛潛해진다”고 指摘했다.

● 規制約束한 빅테크, 實效性은 갸웃

많은 專門家들은 政府의 機械的團束보다는 온라인 플랫폼을 保有한 빅테크들이 責任을 지고 自淨하는 努力이 必要하다고 입을 모은다. 챗GPT를 만든 오픈AI는 “技術的으로 複雜한 프로젝트를 理解하는 能力을 갖추고, 글로벌 選擧關聯危險을 緩和하기 위해 長期的인 戰略을 짜겠다”며 選擧擔當責任者를 임명했다.

소셜미디어와 生成型 AI 開發社들을 비롯한 20個 글로벌 빅테크들은 16日獨逸 뮌헨安保會議(MSC)에서 AI를 惡用해 選擧에 影響을 끼치는 行爲에 共同對應하기로 合意했다. 이들은 有權者에게 影響을 줄 수 있는 딥페이크를 感知하는 技術을 開發하고, 이 같은 콘텐츠엔 라벨(꼬리票)을 붙이겠다고 밝혔다. 하지만 合意文에 정작 重要한 “딥페이크 콘텐츠를 禁止하거나 削除해야 한다”는 等의 文句는 담기지 않았다. 안 그래도 模糊한 合意文이 拘束力까지 갖추지 못했다는 指摘도 나온다.

企業들이 約束한 딥페이크를 感知하고 막는 技術이 어느 程度나 效果를 거둘지도 如前히 未知數다. 예컨대 마이크로소프트(MS)의 AI 基盤無料 이미지 製作道具인 ‘이미지 크리에이터’는 現在政治人의 이미지 生成을 막고 있지만 虛點이 크다. ‘나렌드라 모디 總理’라는 이름을 넣으면 生成이 거부되지만 “印度의 有名政治指導者”를 그려 달라고 하면 結局 모디 總理의 이미지가 만들어지는 式이다.

崔敎授는 “感知技術이 開發되면 그것을 避해 가려는 技術도 또 만들어질 것”이라며 “서로를 넘어서는 技術을 繼續開發하는 데에는 엄청난 投資가 必要하다”고 展望했다. 技術·미디어 監視團體인 프리프레스의 노라 베나비데즈 辯護士는 “選擧철마다 技術企業들은 恒常模糊한 基準을 約束해 왔고, 그마저도 完全히 履行하지 못했다”고 指摘했다.

무엇보다 빅테크들의 措置는 非英語圈의 AI 딥페이크 콘텐츠를 막기엔 力不足이라는 批判이 거세다. 빅테크들은 主로 政治廣告分野에서의 AI 規制에 焦點을 맞추고 있지만, 西歐圈처럼 政治廣告가 活潑하지 않은 國家라면 效果가 制限的이라는 點도 問題다. 사바나즈 라시드 디야 前 메타 任員은 “AI의 虛點을 解決하기 위한 解法들은 如前히 西歐中心的”이라며 “特히 英語가 아닌 言語로 만들어진 콘텐츠를 識別하는 데에 效果的이지 않다”고 英國 파이낸셜타임스(FT)에 批判했다.

김보라 記者 purple@donga.com
홍정수 記者 hong@donga.com

#政治人 #ai #選擧판