戰爭은 크나큰 悲劇이지만, 아이러니하게도 人類 文明의 進步를 加速하는 兩面性을 지녔다. 尖端武器 開發 過程에서 登場한 여러 新技術이 人類의 삶을 潤澤하게 만드는 데 寄與했다. 20世紀 두 次例 世界大戰과 冷戰을 겪은 人類는 結果的으로 이 같은 ‘武器의 逆說’ 德을 톡톡히 봤다. 하지만 21世紀 人類가 마주할 未來는 지난 世紀와는 相當히 달라질 것으로 보인다. 最近 러시아-우크라이나 戰爭 樣相을 보면 武器 技術이 人間 統制를 벗어날 公算이 크기 때문이다.

러시아-우크라이나 ‘드론 戰爭’

最近 러시아와 우크라이나는 戰場에서 ‘드론 戰爭’으로 불릴 程度로 다양한 드론을 廣範圍하게 運用하고 있다. 開戰 初 기껏해야 偵察用으로 쓰이던 드론은 이제 通信·打擊·普及 等 거의 모든 領域에서 活用되고 있다. 드론 性能을 極大化하는 데 온갖 新技術度 適用되고 있다. 드론은 無人 武器體系지만, 方向 選擇은 勿論 移動과 搭載 裝備 操縱 等 거의 모든 段階에 人間이 直接 介入해야 한다. 사람이 스마트폰, 태블릿 PC 等을 컨트롤러 삼아 드론을 操縱해야 하기에 戰術 目的으로 活用하려면 難度가 相當하다. 이에 따라 러시아軍과 우크라이나軍은 一線 部隊에 드론 조작용 假想現實(VR) 고글을 支給하거나 訓鍊 過程에 드론 科目을 編成하고 있다. 하지만 모든 사람이 게임을 몇 番 해봤다고 프로게이머가 될 수 없는 것처럼, 砲彈이 빗발치는 戰場에서 모든 兵士로 하여금 드론 操縱 能力을 熟達하게 하기란 相當히 어렵다.

最近 러시아-우크라이나 戰爭 樣相을 보면 드론에 ‘自律性’을 더한 로봇이 登場해 눈길을 끈다. 自動 對應 銅雀乙 코딩한 簡單한 소프트웨어부터 人工知能(AI) 技術이 適用된 自律型 로봇까지 戰場에 投入되고 있다. 그런 가운데 3月 中旬 우크라이나 東部 激戰地 아우디이우카에서 兩側 無人 武器體系가 激突했다. 人類 歷史 最初로 ‘드론 vs 로봇’ 戰鬪가 벌어진 것이다. 러시아는 아우디移寓카 戰鬪가 한창이던 지난해 12月 軌道型 戰鬪 支援 로봇을 配置하기 始作했다. 이 로봇은 에스토니아가 開發한 ‘테미스(THeMIS)’라는 모델과 類似하지만 크기는 훨씬 작다. 軌道型 車體에 成人 男性 1名이 겨우 누울 수 있는 크기의 積載函이 있다. 우크라이나軍이 鹵獲해 分析해보니 러시아軍 로봇은 遠隔 或은 自動制御로 負傷兵을 실어 나를 수 있도록 設計됐다. 周邊에 있는 敵 드론의 制御 信號를 再밍(jamming)할 수 있는 電子戰 키트도 附着돼 있다.

러시아軍은 戰鬪 支援 로봇을 戰線에서 要緊하게 使用하고 있다. 普通 負傷兵이 생기면 적어도 兵士 2名이 左右에서 부축해 戰線을 빠져나가야 한다. 銃彈이 빗발치는 戰場에서 적잖은 危險을 甘受해야 하는 것이다. 이에 러시아軍은 로봇 積載函에 負傷兵을 눕혀 後送하기 始作했다. 負傷兵을 태우러 가는 로봇의 빈 積載函에 彈藥과 各種 補給 物資를 실어 보내는 一石二鳥 效果도 봤다. 無人 로봇은 戰鬪에 直接 參加하는 武器는 아니지만, 一線 兵力이 이른바 죽음의 武人地帶에 갇혀도 生存할 수 있도록 돕는 裝備로서 活躍해왔다. 그 結果 러시아軍은 높은 詐欺를 維持하며 아우디移寓카 占領에 成功했다.

史上 첫 드론 vs 로봇 對決

러시아軍 로봇이 戰場에서 活躍瑕疵 우크라이나軍은 눈에 불을 켜고 이 로봇을 찾아다니기 始作했다. 하지만 砲彈과 銃彈이 빗발치고 어디에서 地雷가 터질지 모르는 戰場에서 사람이 로봇을 찾아다닐 수는 없는 노릇이다. 이에 우크라이나軍도 無人 武器인 드론을 앞세워 로봇을 追跡했다. 러시아軍 로봇은 크기가 작은 데다, 마치 바닥을 기어가듯 움직인다. 아우디移寓카 西쪽을 防禦하던 우크라이나 第53機械化旅團 드론 運用팀이 오랜 作戰 끝에 러시아軍 로봇을 찾아 破壞하는 데 成功했다.



當時 우크라이나軍은 1人稱 時點(FPV) 드론으로 戰場을 偵察하다가 紙面에서 작은 物體가 移動하는 것을 發見했다. 彈藥을 싣고 러시아軍 塹壕로 가던 로봇이었다. 로봇 正體를 識別한 우크라이나軍은 곧장 FPV 드론을 衝突시켜 로봇을 破壞했다. 實戰에서 드론으로 로봇을 破壞한 첫 事例다. 이제까지 戰鬪用 드론은 敵 機甲車輛이나 建物, 陣地를 攻擊하는 데 쓰였다. 未來 戰鬪에선 人間이 搭乘하지 않은 드론이나 로봇도 無人 武器의 攻擊 對象이 될 수 있음을 보여준 것이다. 戰爭史의 한 페이지를 裝飾할 만한 事件이었다. 그런데 이로부터 一週日도 지나지 않아 우크라이나 戰場에선 드론 vs 로봇 戰爭史의 一大 事件이 또 벌어졌다. AI 드론이 戰場에 投入돼 人間 戰鬪 兵力을 殺傷하는 初有의 事件이 일어난 것이다.

東部戰線 激戰地 쿠퍈스크에서 防禦戰을 벌이던 우크라이나軍 第60機械化旅團은 3月 셋째 週 새로운 드론 시스템을 만들어 作戰에 投入했다. 民間 專門家들을 招聘해 러시아軍 防禦 시스템을 克服할 수 있는 新武器를 開發한 것이다. 最近 러시아軍은 우크라이나軍의 統制 電波를 攪亂해 드론을 無力化하는 再밍 시스템을 一線 部隊에 普及하고 있다. 이에 FPV 드론의 攻擊 成功率이 떨어지자 우크라이나軍은 電波 妨害에도 標的을 攻擊할 수 있는 方法을 摸索하기 始作했다. 그 結果 登場한 것이 AI가 椄木된 戰鬪用 드론이다.

旣存 FPV 드론은 離陸부터 標的 衝突까지 모든 過程을 人間이 컨트롤러로 操縱해야 헸다. 再밍 같은 突發 變數가 생기면 操縱 信號가 끊겨 그대로 墜落하거나, 事前에 入力된 復歸 座標로 自動으로 歸還할 수밖에 없었다. 反面 이番에 登場한 AI 드론은 操縱 信號가 끊겨도 自動으로 周邊을 探索해 敵을 識別하도록 設計됐다. 卽 標的 攻擊 與否를 人間이 아닌 AI가 決定하는 것이다. 우크라이나軍 第60機械化旅團의 AI 드론은 재밍으로 操縱 信號가 끊기자 自體 判斷에 따라 地上에 있던 러시아軍 電車를 向해 突進했다. T-80BVM으로 推定되는 러시아軍 電車는 드론에 被擊된 後 그대로 無力化됐다.

AI 武器 禁忌 깬 우크라이나

우크라이나軍이 公開한 映像을 보면 AI 드론은 러시아軍 再밍에 露出돼 暫時 送受信 信號가 끊겼다. 달리 말하면 이番 攻擊은 人間 오퍼레이터가 아닌, 드론에 搭載된 AI가 스스로 決定한 것이다. 第60機械化旅團을 도와 該當 드론을 製作한 우크라이나 드론 專門家 세르히 스테르넨코는 現地 言論 인터뷰에서 “極限의 電子戰 環境에서 드론이 作戰 目標를 達成하려면 스스로 狀況을 認識해 攻擊 與否를 判斷하는 能力을 드론에 附與할 수밖에 없다”고 開發 背景을 밝혔다.

AI로 하여금 戰場에서 標的을 識別해 追跡·照準·攻擊하게 하는 것은 技術的으로 그리 어려운 일은 아니다. 戰鬪 勝敗와 效率만 考慮한다면 AI를 適用한 殺傷武器 開發은 至極히 合理的인 決定이다. 하지만 倫理 側面에서 보면 이는 대단히 危險한 일이다. 人間을 殺傷하도록 AI 武器를 학습시키고, 戰場에서 實際로 人命을 害칠 權限을 AI에 附與하는 것이기 때문이다. 이 때문에 世界 여러 나라는 AI 武器體系 開發에 많은 投資를 하면서도 AI 스스로 殺傷 與否를 決定할 수 있는 武器는 만들지 않았다. 이 같은 法的·倫理的 禁忌를 우크라이나가 AI 드론으로 敵軍을 殺傷함으로서 깨버린 것이다.

“AI, 人類 멸망시킬 수도” 호킹의 警告

AI 武器의 危險性은 이미 지난해 美國 空軍 세미나에서 提起된 바 있다. 세미나에서 發表된 逸話는 이렇다. 美 空軍은 敵 地對空미사일 基地를 識別·破壞하는 任務를 AI 드론에 附與하고, 目標物을 破壞했을 때 點數를 주는 假想試驗을 實施했다. 當時 AI에는 “敵 地對空미사일을 破壞하고, 任務 遂行 中 妨害가 되는 要素도 攻擊하라”는 命令語가 入力됐다. 그런데 이 AI는 假想試驗 過程에서 攻擊 中止를 命令한 人間 오퍼레이터를 妨害 要素로 判斷하고 攻擊했다. “人間 오퍼레이터를 攻擊하면 減點”이라는 命令語를 새로 入力하자, AI는 人間 오퍼레이터가 統制 命令을 送信하는 通信塔을 攻擊했다. 스스로 생각하는 AI가 統制를 벗어나 人間을 攻擊할 수 있음을 보여준 것이다.

禁忌는 처음 깨는 게 어렵지, 누군가 한 番 線을 넘으면 두 番째, 세 番째는 쉽다. 한때 機關銃과 散彈銃을 ‘惡魔의 武器’라며 꺼리던 列强은 第1次 世界大戰이 激化하자 서슴없이 이들 武器를 大擧 導入했다. 그런 點에서 AI 殺傷 로봇의 大量 擴散은 이제 時間問題가 됐다고 할 수 있다. 世界 主要國은 이미 開發된 遠隔 操縱 方式의 無人 武器에 殺傷 判斷 能力을 가진 AI를 適用할 것이다. 人類는 머지않은 未來 戰場에서 AI 로봇이 人間을 ‘效率的으로’ 殺傷하는 時代를 맞이할 수도 있다. 스티븐 호킹 博士는 “AI가 人類를 멸망시킬 수 있다”며 AI 開發과 武器化에 愼重을 期해야 한다고 여러 次例 警告했다. 우크라이나 戰場에서 깨진 AI 殺傷武器 禁忌를 國際社會가 다시 復元하지 않는다면 機械가 人間을 威脅하는 映畫 속 디스토피아(dystopia)가 現實이 될 수도 있다.