[아이뉴스24 김지영 記者] AI가 急速히 發展하면서 副作用에 對한 社會的 不安과 憂慮의 목소리도 높아졌다. 不適切한 答辯과 著作權 侵害 論難에 이어 假짜뉴스와 딥페이크 콘텐츠 같은 惡用 事例가 急增하면서, '믿을 수 있는 人工知能(AI Trustworthy)'을 爲한 努力이 곳곳에서 이어지고 있다.

유럽聯合은 AI 規制法을 世界 最初로 可決했으며, 유엔은 安全한 AI를 위한 國際的 合意를 促求하는 決議案을 滿場一致로 採擇했다. 또 지난 21日 科學技術情報通信部는 '새로운 디지털 秩序 定立 推進計劃'을 發表하며 ‘AI의 安全性·信賴·倫理 確保’를 核心 課題 中 하나로 採擇하기도 했다.

이런 가운데 AI 企業 솔트룩스는 컨소시엄을 통해 2024年 第1次 情報通信·放送 技術開發事業·표준개발支援事業 新規支援 對象課題인 ‘社會的, 倫理的 學習을 위한 데이터 特性·生成 AI 모델의 倫理性 向上 硏究’에 選定되어 3年間 事業을 遂行하게 됐다고 23日 밝혔다.

이는 人工知能·데이터 部門 中 次世代 生成 AI 技術 開發 事業에 屬하는 國策課題로, 生成型 人工知能의 社會·倫理性 强化를 위한 모델 性能 向上 技術을 開發하는 것을 目標로 한다. 特히 AI의 社會的 判斷에 對한 硏究는 世界 最初로 試圖되는 것으로, 事業費는 約 48億8700萬원 規模다.

솔트룩스 컨소시엄에는 建國大(김학수 敎授), 西江大(구명완 敎授), 서울大(天玄得 敎授), 成均館大(고영중 敎授), 카이스트(김기응 敎授), 韓國電子技術硏究院(김산 先任硏究員), KT(장두성 常務), 다이퀘스트(김경선 硏究所長) 等 AI 分野 國內 最高 專門家들이 參與하여 世界的인 競爭力을 갖춘 硏究팀을 構成했다. 特히 人工知能·딥러닝 分野의 工學 硏究陣 外에도 哲學·人文學·社會科學 等 多學制 硏究陣이 參與, 生成 AI의 社會·倫理性 强化를 위한 最適의 팀을 꾸렸다는 評價를 받고 있다.

課題의 細部 目標는 △다양한 普遍的 特性과 도메인의 特徵에 符合하는 生成 AI 社會·倫理性 가이드라인 樹立 △持續·擴張 可能한 社會·倫理 綜合 對應 서비스 플랫폼 核心 技術 開發 △硏究 産出物 公開·實證을 통한 擴散 等이며, 最終的으로는 生成 AI 모델·서비스 開發者 누구나 活用할 수 있는 Ethics-GenAIOps 오픈 플랫폼을 開放하고 100萬 名 以上 使用者를 確保할 計劃이다.

이番 課題를 통해 AI에 對한 社會·倫理性 評價 基準과 動作 檢證 方法이 마련되면서, 旣存 모델을 補完하고 向後 더 安全한 AI를 開發할 수 있는 環境이 造成될 것으로 보인다. 特히 AI가 自身의 行動을 돌아볼 수 있는 시스템으로 擴張, 機械와 사람이 서로 協力하는 時代의 礎石을 다질 것으로 期待된다.

김재은 솔트룩스 랩長은 “汎國家的 硏究開發 프로젝트 ‘엑소브레인’에 이어 본 課題를 遂行하게 되면서, 國家 AI 技術의 革新을 다시 한番 이루기 위해 컨소시엄 全體가 뜻을 모았다”라며 “사람과 機械가 知識 疏通하는 世上을 目標하는 企業으로서, 앞으로도 바람직한 디지털 秩序 定立을 위해 힘쓸 것”이라고 말했다.

김지영 記者의 다른 記事 보기