人工知能(AI)李 빠르게 發하면서 副作用에 對한 社會的 不安과 憂慮의 목소리가 커지고 있다. 不適切한 答辯과 著作權 侵害 論難에 이어 假짜뉴스와 딥페이크 콘텐츠 같은 惡用 事例가 急增하면서 '믿을 수 있는 AI'를 爲한 努力이 곳곳에서 이어지고 있다.

유럽聯合은 AI 規制法을 世界 最初로 可決했으며, 유엔은 安全한 AI를 위한 國際的 合意를 促求하는 決議案을 滿場一致로 採擇했다. 21日 科學技術情報通信部는 '새로운 디지털 秩序 定立 推進計劃'을 發表하며 AI의 安全性 및 信賴·倫理 確保를 核心 課題 中 하나로 採擇했다.

AI 企業 솔트룩스는 컨소시엄을 통해 2024年 第1次 情報通信·放送 技術開發事業 및 標準開發支援事業 新規支援 對象課題인 ‘社會的, 倫理的 學習을 위한 데이터 特性 및 生成 AI 모델의 倫理性 向上 硏究’에 選定됐다고 23日 밝혔다.

AI 및 데이터 部門 가운데 次世代 生成 AI 技術 開發 事業에 屬하는 國策課題다. 生成型 AI의 社會·倫理性 强化를 위한 모델 性能 向上 技術을 開發하는 것을 目標로 한다. 特히 AI의 社會的 判斷에 對한 硏究는 世界 最初로 試圖하는 것으로 事業費는 約 49億원 規模다.

솔트룩스 컨소시엄에는 建國大(김학수 敎授), 西江大(구명완 敎授), 서울大(天玄得 敎授), 成均館大(고영중 敎授), 카이스트(김기응 敎授), 韓國電子技術硏究院(김산 先任硏究員), KT(장두성 常務), 다이퀘스트(김경선 硏究所長) 等 AI 分野 國內 最高 專門家가 參與한다. AI 및 딥러닝 分野의 工學 硏究陣 外에도 哲學·人文學·社會科學 等 多學制 硏究陣이 參與해 生成 AI의 社會·倫理性 强化를 위한 最適의 팀을 꾸렸다는 評價를 받고 있다.

課題 細部 目標는 ▲多樣한 普遍的 特性과 도메인의 特徵에 符合하는 生成 AI 社會·倫理性 가이드라인 樹立 ▲持續 및 擴張 可能한 社會·倫理 綜合 對應 서비스 플랫폼 核心 技術 開發 ▲硏究 産出物 公開 및 實證을 통한 擴散 等이다. 生成 AI 모델 및 서비스 開發者 누구나 活用할 수 있는 Ethics-GenAIOps 오픈 플랫폼을 開放하고 100萬 名 以上 使用者를 確保할 計劃이다.

솔트룩스 김재은 랩長은 "汎國家的 硏究開發 프로젝트 ‘엑소브레인’에 이어 본 課題를 遂行하면서 國家 AI 技術의 革新을 다시 한番 이루기 위해 컨소시엄 全體가 뜻을 모았다"고 말했다. 이어 "사람과 機械가 知識 疏通하는 世上을 目標하는 企業으로서 앞으로도 바람직한 디지털 秩序 定立을 위해 힘쓸 것"이라고 덧붙였다.

<ⓒ투자가를 위한="" 경제콘텐츠="" 플랫폼,="" 아시아경제(www.asiae.co.kr)="" 무단전재="" 배포금지="">