‘萬能 AI’는 幻想… 사람의 役割 더 重要해져[기자의 눈/남혜정]

東亞日報
入力 2023年 3月 1日 03時 00分

남혜정 記者

코멘트: 個

좋아요: 個

코멘트: 個

“아니요, 申師任堂의 男便은 李舜臣將軍이 아닙니다. 申師任堂의 男便은 朝鮮時代中期의 文臣인 오선길입니다. 李舜臣將軍은 新羅時代의 將軍으로, 朝鮮中期와는 時代的差異가 있습니다.”

오픈 人工知能(AI)의 챗봇 ‘챗(Chat)GPT’에게 ‘申師任堂의 男便이 李舜臣將軍인가’라고 質問하자 나온 答辯이다. 챗GPT는 ‘生成型 AI’ 狂風을 몰고 왔다. 詩, 小說, 作曲, 論文作成等創作을 하고 로스쿨, 醫師免許試驗까지 通過하면서 챗GPT의 能力이 人間을 代替할 것이라는 얘기까지 나온다. 그러나 ‘生成型 AI의 人間大體’는 多少誇張된 部分이 있다. 챗GPT가 記者의 質問에 내놓은 答辯은 ‘그럴싸한’ 誤答이다.

빅테크 企業을 中心으로 超巨大 AI 市場先占을 위한 技術을 앞다퉈 公開하고 있지만 여기서도 비슷한 誤謬들이 登場했다. 네이버는 지난달 27日 열린 年例技術 콘퍼런스 行事 ‘데뷰’ 基調演說에서 超巨大 AI 모델을 基盤으로 한 챗봇型檢索 서비스 ‘서치GPT’를 公開했다. 챗GPT와 달리 眞實性과 正確度를 높일 수 있는 技術을 適用했다고 紹介했다. 그러나 이날 試演過程에서 ‘日本旅行을 가려고 하는데 코로나 백신 接種證明書랑 入國情報登錄하는 方法을 알려 달라’는 質問에 서치GPT는 업데이트되지 않은 情報를 提供한 데다 ‘푸라노스’라는 存在하지 않는 백신을 言及했다. 앞서 구글도 AI 챗봇 ‘바드’ 試演會에서 ‘제임스웹 宇宙望遠鏡’에 對한 잘못된 情報를 答辯으로 내놓으면서 株價暴落을 겪었다. MS의 챗봇 ‘빙’ 亦是試演過程에서 ‘갭과 캐나다 스포츠웨어 브랜드 룰루레몬의 實績을 比較해 달라’는 質問에 룰루레몬의 總마진率과 營業마진率等의 數値를 事實과 다르게 提示했다.

超巨大 AI 서비스가 高度化될수록 重要해지는 것은 人間의 役割이다. 生成型 AI의 ‘誤答 릴레이’는 그럴싸한 誤答을 내는 ‘할루시네이션(幻覺)’ 現象을 完全히 克服하기 어렵다는 것을 보여준다. 生成型 AI는 厖大한 데이터를 學習한 後 AI가 導出한 答을 人間이 얼마나 選好하는지 評價하는 ‘人間 피드백을 통한 强化學習(RLHF)’을 통해 誕生했다. 生成型 AI의 거침없는 答辯亦是人間의 손을 거쳐야 可能한 것이다. 또 AI가 學習한 데이터도 잘못된 情報이거나 意味 없는 內容일 수 있다. AI가 모든 것을 解決할 수 있다는 ‘幻想’에 빠져선 안 된다. AI의 長點과 限界를 正確히 알고 活用을 苦悶해야 한다. 結局判斷은 人間의 몫이다.

남혜정·産業1部記者 namduck2@donga.com

#萬能 ai #幻想 #사람의 役割 #더 重要