오픈AI 報告書 “러·中 等, AI 技術로 輿論戰…活動 遮斷"
國際
國際一般
2024.05.31
11:23:09
러시아, 中國, 이란, 이스라엘이 輿論戰을 위해 오픈AI의 生成型 人工知能(AI)을 使用했다고 뉴욕타임스(NYT)가 30日(現地時間) 報道했다. NYT에 따르면 오픈AI는 報告書를 통해 "인터넷上의 '欺瞞的인 活動'(deceptive activity)에 우리의 AI(人工知能) 모델을 利用하려는 5件의 隱密한 試圖를 確認했다"며 "이를 遮斷했다"고 밝혔다. 오픈AI의 이番 報告書는 自社의 道具들이 어떻게 惡用됐는지 밝힌 첫 事例라고 소셜미디어 硏究員들은 指摘했다. 特히 全 世界的으로 主要 選擧가 進行되는 狀況에서 이 技術이 惡用될 수 있는지에 對한 疑問을 일으켰다고 NYT는 傳했다. 오픈AI는 "威脅 行爲者들(threat actors)李 지난 3個月 동안 우리의 AI 모델을 使用해 짧은 댓글과 다양한 言語로 된 긴 記事를 만들고, 假짜 소셜미디어(SNS) 計定을 만들었다"고 說明했다. 오픈AI는 러시아 2곳과 中國, 이란 各 1곳이 이런 試圖를 했으며, 이스라엘 그룹도 包含됐다고 밝혔다. 오픈AI의 主要 調査官인 벤 님모는 “事例 硏究를 통해서 現在 持續되고 있는 캠페인의 一部 事例를 보여줬다”며“이런 캠페인들은 如前히 聽衆을 確保하기 위해 나오고 있다”고 말했다. 報告書는 硏究者들이 數年間 追跡해온 結果 中國의 스팸메일이나 러시아 情報戰人 ‘도플갱어’로부터 이 같은 虛僞 情報들을 擴散했다고 分析했다. 오픈AI의 技術을 利用해 X(엑스·옛 트위터)에 英語, 프랑스語, 獨逸語, 이탈리아語, 폴란드語로 우크라이나 戰爭에서 러시아를 支持하는 內容의 댓글을 썼다는 게 오픈AI의 說明이다. 오픈AI에 따르면 中國은 中國語와 韓國語, 日本語, 英語로 揭示物을 作成하기 위해 챗GPT를 使用했고, 이란도 사이트에 揭示한 記事를 챗GPT로 만들었다. 中國은 또 지난해 下半期 후쿠시마 汚染水 放出과 關聯한 記事를 韓國語를 비롯해 英語와 日本語, 中國語, 러시아語로 飜譯해 日本 非難에 利用했다고 오픈AI는 說明했다. 다만 報告書는 “人工知能 專門家들이 豫測한만큼 生成型AI로 만든 虛僞 情報가 아직 說得力 있는 水準은 아니다”고 傳했다. 虛僞情報 硏究會社 그래피카의 最高 情報 責任者 잭 스텁스는 “우리가 憂慮하는 AI로 인한 虛僞情報의 擴散이 아직까진 具體化된 程度는 아니다”고 診斷했다.