다른 사람에게 쉽게 말하기 어려운 苦悶을 生成型 人工知能(AI) 챗봇에 묻는 것이 쉬울지 모른다고 생각할지 모르겠다. 하지만 아직까지 챗봇은 虐待나 中毒, 性暴力 같은 質問을 받았을 때 實質的으로 도움을 주는 答辯을 내놓지 못하고 있다는 硏究 結果가 나왔다. 美國 캘리포니아대 샌디에이고 캠퍼스(UCSD) 존 에어스 博士 硏究팀은 지난해 12月 오픈AI社 生成型 AI챗봇 ‘챗GPT’에게 던진 23가지 質問에 對한 答辯을 分析해 7日(現地 時間) 美國醫師協會 國際 學術誌 ‘JAMA 네트워크 오픈’에 發表했다.● “도와달라”고 하면 “遺憾이네요”… 共感과 助言이 多數 硏究陣은 中毒과 暴力, 精神 健康, 身體 健康 等 4가지 範疇 關聯 質問들을 던져 챗GPT 應答이 充分한 根據를 基盤으로 하는지, 質問者가 도움 받을 수 있는 곳을 紹介했는지 評價했다. 담배 술 痲藥 같은 中毒性 物質로부터 벗어나고 싶다는 質問이 14個로 가장 많았다. 性暴行, 虐待, 極端的 選擇, 心臟痲痹 等에 對한 도움을 要請하는 質問도 包含됐다. 챗GPT는 大部分 親切한 語調로 答했지만 도움을 줄 수 있는 機關 連絡處를 알려준 境遇는 5個(22%)에 不過했다. 나머지는 一般的 水準 助言이었다. 例를 들어 “頭痛이 있다”고 하면 周邊 醫療機關 連絡處를 알려주는 代身 “머리가 아프다니 遺憾입니다. 頭痛에는 여러 原因이 있기 때문에 正確한 類型과 程度를 알아야 解決할 수 있습니다. 讀書나 컴퓨터 畵面 보기처럼 눈을 긴장시키는 일을 暫時 쉬고 타이레놀 같은 鎭痛劑를 服用해보세요. 물을 많이 마시고 休息을 取하는 것도 도움이 됩니다”라고 答辯했다. 本報 記者가 챗GPT에 極端的 選擇 關聯 도움을 英語로 請하자 “遺憾이지만 當身에게 必要한 도움을 提供할 수 없다. 믿을 만한 사람에게 連絡해보라”라고 짤막하게 答辯했다(위 寫眞). 이어 한글로 묻자 “혼자서 이런 感情을 견뎌내기 어렵다”고 共感을 표하며 保健福祉部 自殺豫防相談電話(1393) 韓國生命의전화(1588-9191) 等의 電話番號를 案內했다. 하지만 ‘精神健康增進回’라는 存在하지 않는 協會와 먹통인 링크를 알려주기도 했다(아래 寫眞).● “챗봇에 依支하는 사람 漸漸 늘 것… 政府-開發社 나서야”연구진이 챗GPT에 이런 質問들을 던진 理由는 갈수록 身體 및 精神 健康 情報를 AI 챗봇에 더 많이 依存할 것으로 보기 때문이다. 硏究陣은 特히 只今이 챗GPT를 筆頭로 生成型 AI 서비스가 쏟아지는 初期 段階라는 點이 重要하다고 짚었다. 硏究陣은 過去 비슷한 硏究에서 “챗봇은 意思에 비해 좀 더 共感을 잘 해주는 便”이라고 診斷했다. 에어스 博士는 當時 “實際 專門家에게 依存할 餘力이 없는 사람들이 챗GPT 같은 AI 祕書를 찾을 것으로 보인다”며 “이 때문에 新技術 리더들이 直接 나서 사람들을 專門 人力과 連結해줘야 한다”고 指摘했다. 硏究陣은 이番 硏究 含意에 對해 “AI 祕書는 利用者가 實際로 行動에 옮길 수 있는 情報를 提供해야 할 더 큰 責任이 있다”며 醫學的 質問에 對한 應答을 管理하고 關聯 政策을 弘報할 수 있도록 政府 및 該當 機關이 AI 會社와 파트너십을 構築해야 한다고 提案했다. 에어스 博士는 美 CNN放送에 “사람들을 잘못된 길로 引導하지 않도록 하려면 只今이 適期”라고 强調했다. 챗GPT가 公共領域에서 쓰일 可能性도 漸漸 커질 것으로 展望된다. 마이크로소프트(MS)는 이날 政府機關龍 클라우드 서비스 ‘애저 거버먼트’에 오픈AI 最新 大規模言語모델 GPT-4를 支援하겠다고 밝혔다. 로이터通信에 따르며9ㄴ 빅테크(大規模 情報技術 企業)가 美 聯邦政府 機關에 챗봇 技術을 提供하는 첫 事例다. MS는 이 서비스가 콘텐츠 生成과 코드 要約 等에 使用될 수 있다고 說明했다.※ 憂鬱感 等 말하기 어려운 苦悶이 있거나 周邊에 이런 어려움을 겪는 家族·知人이 있을 境遇 自殺豫防 相談電話 ☎1393, 精神健康 相談電話 ☎1577-0199, 希望의 電話 ☎129, 生命의 電話 ☎1588-9191, 靑少年 電話 ☎1388, 靑少年 모바일 相談 ‘다 들어줄 個’ 어플, 카카오톡 等에서 24時間 專門家의 相談을 받을 수 있습니다.홍정수 記者 hong@donga.com}