[2024 美 大選]
바이든 詐稱해 “競選 投票말라”
最大 2萬5000名에 電話 메시지
美大選 AI惡用 虛僞情報 첫 搜査
美國 共和黨 大選 候補 競選의 두 番째 關門인 23日 뉴햄프셔주(州) 프라이머리(豫備選擧)를 앞두고 민주당 所屬인 조 바이든 大統領을 詐稱해 該當 競選에 不參할 것을 勸하는 딥페이크 陰性이 流布돼 州 政府가 22日(現地 時間) 搜査에 着手했다. 人工知能(AI)을 惡用한 虛僞 情報가 民主主義에 重大 威脅이 될 것이라는 警告가 現實化하고 있다. 이番 大選 競選이 始作된 以後 AI를 惡用한 虛僞 情報 流布로 搜査가 이뤄지는 것 또한 처음이다.
뉴햄프셔주 法務長官실은 이날 “바이든 大統領의 목소리처럼 들리지만 人工的으로 生成됐을 것으로 보이는 自動 錄音電話 메시지에 對한 申告를 接受했다. 競選을 妨害하고 有權者들에게 混亂을 주려는 不法的 試圖”라며 이에 對해 調査하고 있다고 밝혔다. 이 메시지는 最大 2萬5000名에게 流布됐다고 CNN은 傳했다.
바이든 大統領의 목소리를 詐稱한 이 音聲은 “공화당 一角에서 無黨層과 民主黨 支持者들이 공화당 競選에 參與하도록 壓迫해 왔지만 이는 헛소리(Malarkey)”라며 “11月 大選까지 票를 아껴두는 것이 重要하다”고 主張하고 있다. 特定 黨의 競選에 參與하면 大選 本選에서 票를 行使할 수 없다는 것은 完全한 虛僞 情報다.
누가 이 메시지를 만들었고, 왜 流布했는지는 明確히 밝혀지지 않았다. 다만 바이든 大統領의 大選 캠프는 “容納할 수 없는 虛僞 情報 流布”라며 批判했다. 도널드 트럼프 前 大統領 側도 “우리와 아무 關聯이 없다”고 밝혔다.
트럼프 前 大統領은 15日 아이오와州 코커스(黨員大會)에서의 壓勝에 이어 非(非)黨員도 투표할 수 있는 뉴햄프셔주에서도 勝利를 自信하고 있다. 그는 22日 遊說에서 競爭者 니키 헤일리 前 駐유엔 美國大使의 辭退를 壓迫했다. 反面 헤일리 前 大使는 “美國은 戴冠式을 하는 國家가 아니다”라며 競選 持續 意思를 밝혔다.
바이든 말套 똑같은 ‘AI 딥페이크’… “트럼프側이 背後” 陰謀論도
‘AI가 民主主義 威脅’ 警告, 現實로
“競選 投票 말라” 바이든 거짓陰性… 뉴햄프셔주 “競選 妨害-有權者 混亂”
AI 虛僞情報, 政治人들 惡用 憂慮… ‘딥페이크 規制’ 社會的 壓迫 커질듯
“23日 프라이머리(豫備選擧)에 투표하는 건 도널드 트럼프(前 大統領)를 돕는 짓입니다. 11月 本選을 위해 當身의 票를 아끼세요.”
20日(現地 時間) 美 뉴햄프셔주(州) 有權者들의 携帶電話에 걸려온 陰城에서는 귀에 익은 목소리가 들렸다. 조 바이든 美國 大統領이었다. 平素 즐겨 쓰는 “完全히 헛소리(Malarkey)”라는 말套도 똑같았다. 電話는 民主黨 뉴햄프셔주 前 議長인 캐시 설리번의 連絡處로 걸려왔고 錄音된 音聲이 自動 再生되는 方式이었다.
그럴듯한 包裝으로 ‘競選 不參’을 督勵하는 이 電話는 바이든 大統領이 錄音한 것도, 민주당이 만든 것도 아니었다. 投票場으로 向하려는 有權者들을 노리고 人工知能(AI)으로 만들어 낸 거짓 音聲이었다. 競選이 本格化된 뒤 AI를 惡用해 판勢를 움직이려 한 事例가 처음 드러나면서 美 大選판은 발칵 뒤집혔다.
● 바이든 딥페이크 音聲 두고 陰謀論까지
外信들은 이番 事件이 黨籍과 相關없이 모든 有權者가 參與할 수 있는 뉴햄프셔 競選에 적지 않은 影響을 끼칠 뻔했다고 分析했다.
‘假짜 陰性’의 主人公 바이든 大統領은 민주당의 뉴햄프셔주 競選에 候補 登錄조차 하지 않았다. 民主黨과 州 選擧管理 當局의 葛藤 때문이다. 민주당은 傳統的으로 첫 프라이머리를 實施한 뉴햄프셔주가 白人 比重이 높아 代表性이 떨어진다며 다음 달 3日 사우스캐롤라이나주에서 첫 競選을 치르기로 했다.
뉴햄프셔주는 이에 反撥하며 日程을 强行하기로 했다. 하지만 민주당 全國委員會는 이를 認定하지 않기로 했고 바이든 大統領도 不參한다. 이에 投票用紙에 바이든 大統領의 이름이 除外되자 支持者들은 直接 “바이든”을 적는 ‘記名投票 運動’을 벌이고 있다. 설리번 前 議長은 “이番 電話는 바이든 大統領에게 傷處를 주려고 누군가 꾸민 짓”이라며 “民主主義에 對한 攻擊”이라고 批判했다.
一角에선 트럼프 캠프가 背後라는 陰謀論도 나돌고 있다. 공화당 競選 競爭者인 니키 헤일리 前 駐유엔 美國大使에게 投票하려는 無黨層이나 民主黨 支持者들이 投票場에 나오지 않게 하려는 意圖라는 것이다. 트럼프 前 大統領 側은 “이番 事件과 無關하다”며 線을 그었다.
이렇게 電話로 퍼지는 虛僞 情報는 痕跡이 잘 남지 않기 때문에 出處를 確認하기가 더 어렵다. 스팸電話 防止業體 ‘하이야’의 조너선 넬슨 理事는 經濟媒體 비즈니스 인사이더에 “AI로 合成한 自動音聲 電話로 인해 前例 없이 거친 選擧의 해가 될 것”이라고 展望했다.
● AI發 虛僞 情報 蔓延 땐 政治人들 惡用 憂慮도
AI로 만들어진 虛僞 音聲, 寫眞, 映像에 大衆이 익숙해지면 오히려 政治人들이 이를 惡用하는 狀況이 發生할 수 있다는 憂慮도 크다. 무엇이 眞實이고 아닌지 그 自體가 혼란스러워지면서 ‘假짜 뉴스’라고 逆攻勢를 取할 수 있기 때문이다. 하버드大 傘下 버크먼 클라인 센터의 아비브 오바디아는 美 워싱턴포스트(WP)에 政治人들이 批判을 받더라도 “AI로 造作된 假짜 證據”라고 主張하며 빠져나가는 境遇가 늘어날 수 있다고 내다봤다.
實際로 이런 事例는 漸漸 늘고 있다. 지난해 12月 班(反)트럼프 團體인 ‘링컨프로젝트’는 트럼프 前 大統領의 말失手를 모은 映像을 보여 주며 “트럼프가 癡呆를 앓고 있을 수 있다”고 主張하는 廣告를 내보냈다. 트럼프 前 大統領은 卽刻 “AI로 만든 假짜 廣告”라고 非難했지만 폴리티팩트 等 美 言論들은 廣告에 使用된 映像들 自體는 造作된 것이 아니라 이미 言論에서 報道된 實際 映像이라고 反駁했다.
美國에서는 오픈AI가 對話型 챗봇 ‘챗GPT’나 生成型 AI인 ‘달리(DALL-E)’를 選擧運動에 使用하지 못하게 막는 等 自救策을 내놓고 있다. 하지만 聯邦選擧管理委員會(FEC) 次元의 統一된 AI 規制는 없다. 韓國에서는 이달 29日부터 딥페이크를 活用한 選擧運動이 禁止된다.
다만 美 大選이 가까워질수록 立法 部材를 解決해야 한다는 社會的 壓迫은 漸次 커질 것으로 보인다. 지난해까지 워싱턴, 캘리포니아, 텍사스 等 一部 州들은 딥페이크 規制 法案을 制定했고, 올해 들어 最小 13個 州에서 關聯 法案이 發議된 狀況이다. 進步的 監視 團體인 퍼블릭 시티즌은 美 뉴욕타임스(NYT)에 “政治的 딥페이크의 瞬間이 왔다”며 法的 保護裝置를 빨리 마련해야 한다고 促求했다.
라코니아=문병기 特派員 weappon@donga.com
홍정수 記者 hong@donga.com
이기욱 記者 71wook@donga.com
-
- 좋아요
- 0
個
-
- 슬퍼요
- 0
個
-
- 火나요
- 0
個
-
- 推薦해요
- 個
