[스데로트=AP/뉴시스] 이스라엘 顯忠日인 13日(現地時刻) 이스라엘 南部 스데로트의 觀光地를 訪問한 사람들이 가자지구에서 爆發이 일어난 後 煙氣가 치솟는 것을 지켜보고 있다. 2024.05.14.

2021年, '人間-機械 팀: 우리의 世上을 革新할 人間과 AI 間의 시너지 創出法'이라는 英文 書籍이 'YS 准將'이라는 筆名으로 出刊됐다.

이스라엘의 엘리트 情報部隊인 8200部隊의 現職 司令官으로 確認된 著者는 이 冊에서 厖大한 規模의 데이터를 迅速하게 處理해 戰爭이 한창 進行되는 狀況에서 攻擊에 使用할 數千 個의 '標的'을 生成할 수 있는 特殊한 體系를 開發해야 한다고 主張했다.


著者는 이런 技術이 "새로운 標的을 찾고 選擇하는 意思決定 過程에 있어 '人間이 誘發하는 甁목現象' 問題를 解決할 것"이라고 말한다.

이런 體系는 實際로 存在한다. +972매거진과 로컬콜의 取材에 따르면 이스라엘軍(IDF)은 '라벤더'라는 AI 基盤 프로그램을 開發했으며, 이 프로그램의 正體는 이番에 最初로 公開됐다. 現在 가자지구를 對象으로 한 戰爭에 參戰 中이고, 射殺 目標를 指定하기 위해 AI를 使用한 經驗이 있는 6名의 이스라엘軍 情報部서 將校들에 依하면, 이 '라벤더'는 特히 戰爭 初期 段階에서 팔레스타인을 目標로 進行된 前例를 찾아볼 수 없는 爆擊의 核心 要素로 보인다.

이 提報者들의 證言에 따르면, 라벤더가 軍事 作戰에 미친 影響力은 너무 커서, IDF는 AI 體系가 出力한 結果를 '마치 人間의 決定인 것처럼' 取扱할 程度였다.


公式的으로, 라벤더 시스템은 하마스와 팔레스타인이슬라믹지하드(PIJ)의 戰鬪部署에 所屬된 것으로 疑心되는 下位 要員을 包含한 모든 構成員을 潛在的인 攻擊 標的으로 區分하도록 設計됐다.

+972와 로컬콜의 提報者들은 이스라엘軍이 戰爭 初期에 몇 週 동안 거의 全的으로 라벤더에 依存했고, 라벤더는 最大 3萬 7000名에 達하는 팔레스타인人을 武裝勢力 加擔者로 區分했고, 그들의 집을 攻襲對象으로 指目했다고 傳했다.

그리고 軍은 라벤더의 射殺標的目錄을 加減없이 採擇하도록 承認했으며, 이 決定이 내려진 以後 將校들은 AI 體系가 왜 그런 決定을 내렸는지 徹底하게 確認하지 않았고, 判斷의 根據가 된 原始 情報 데이터를 確認하지도 않았다.

한 消息通은 人間이 AI體系가 내린 決定에 '擧手機' 役割만 하는 境遇가 많았다며, 爆擊을 承認하기 前에 라벤더가 指示한 標的 黨 20秒假量의 時間을 割愛해 標的이 男性인지 아닌지만을 確認했을 뿐이라고 證言하기도 했다.

이는 시스템이 平均的으로 10%假量 '誤謬'를 犯했으며, 武裝團體와 느슨한 聯關關係에 있거나, 全혀 聯關이 없는 人物을 指目하는 境遇도 있음을 알고 있는 狀態에서 벌어진 일이었다.

그리고 이스라엘軍은 標的이 軍事活動에 參加中일 때가 아니라, 主로 家族들과 함께 모여 있을 夜間에 體系的인 攻擊을 加했다.

提報者들의 說明에 따르면, 이런 攻擊은 情報機關의 觀點에서는 (隱身中인 武裝組織보다는) 自家로 돌아간 個人을 찾아내는 便이 훨씬 容易했기 때문이었다.

이番에는 '아빠 어딨어?'(Where's Daddy?)라는 이름의 自動 監視 體系도 처음으로 正體가 드러났는데, 이 監視體系는 主로 標的이 된 個人을 監視하다 標的이 歸家했을 때 집을 爆擊하는 用途로 使用됐다.

關係者들의 證言에 依하면, 戰爭 初期의 몇 週 동안 이 AI 프로그램의 決定에 따라 進行된 이스라엘의 攻襲으로 死亡한 數千 名의 팔레스타인人 가운데 大部分은 女性과 어린이, 或은 戰鬪에 關聯되지 않은 사람들이었다.

( 繼續 )

PADO 웹사이트(https://www.pado.kr)에서 該當 記事의 全文을 읽을 수 있습니다. 國際時事·文藝 매거진 PADO는 洞察과 깊이가 담긴 롱리드(long read) 스토리와 文藝 作品으로 우리 社會의 創造的 氣風을 刺戟하고, 急變하는 世上의 眺望을 돕는 작은 膳物이 되고자 합니다.