11月 末 샘 올트먼 오픈AI 最高經營者(CEO)가 會社에서 쫓겨났다가 닷새 만에 復職했다. 이와 關聯해 所聞이 茂盛했지만, 그中 有力한 消息 하나는 오픈AI가 會社 正體性에 混亂이 올 만큼 高度로 發展된 人工知能(AI)을 開發하고 있다는 것이다. 바로 ‘Q*(큐스타) 알고리즘’으로 불리는 AI 開發 프로젝트다. 現在 베일에 싸인 채 開發되고 있는 Q* 알고리즘은 人類를 威脅할 强力한 AI 技術이라는 點에서 오픈AI 안팎에서 贊反兩論을 불러일으키고 있다.

오픈AI 理事會 葛藤의 내면

오픈AI가 챗GPT를 선보인 지 어느덧 1年이 넘었다. 그동안 情報技術(IT) 産業을 비롯해 社會 全般에 엄청난 衝擊波를 던졌다 해도 過言이 아니다. 챗GPT 出市 以後 AI가 모든 技術의 中心에 자리 잡고 있으며, 言語부터 이미지까지 生成型 AI의 烈風이 只今까지도 이어지고 있다. 그 先頭에 있는 오픈AI는 創立 初期부터 人間보다 똑똑한 AI를 開發해 公益을 위해 쓰는 것을 目標로 내세웠다. 이를 一般 人工知能(Artificial General Intelligence·AGI)이라고 부른다. 챗GPT가 歷史上 가장 빠르게 成長하는 프로그램이 되면서 오픈AI의 企業價値 또한 900億 달러(藥 118兆600億 원)까지 成長했다. 또한 오픈AI는 本來 非營利團體였지만 AGI 開發 資金을 調達하고자 怜悧 및 非營利 構造로 轉換됐다. ‘非營利團體가 統制하는 怜悧 子會社’인 오픈AI는 마이크로소프트(MS)를 包含한 投資者의 收益을 持分의 100倍로 制限한다는 點 또한 異例的이다.

오픈AI에는 올트먼과 코딩의 達人으로 불리는 그레그 브로크만, 首席 科學者 일리아 수츠케베르와 外部人 3名으로 構成된 理事會가 있다. 初期 오픈AI의 成長을 牽引한 올트먼은 챗GPT 開發의 아버지로 불리는 人物이다. 그는 美國 스탠퍼드대를 中退하고 에어비앤비, 드롭박스, 레딧, 스트라이프 等 傳說的인 실리콘밸리 스타트업의 經營을 맡은 바 있다. 일론 머스크 테슬라 CEO와는 결이 다른 怪짜이자 天才 經營者라는 評을 받는다.

오픈AI 首席 科學者 수츠케베르 또한 굵직한 AI 技術을 開發했다. 約 10年 前 AI 딥러닝 革命을 이끈 强力한 神經網人 알렉스넷(AlexNet)과 生成型 AI 革命을 始作한 GPT 言語 모델(LLM)을 開發한 主役이다. 그는 急速한 AI 開發에 愼重한 立場을 堅持해오다가 이番 올트먼의 解雇를 主導했다. 오픈AI 內部 報告書에 따르면 올트먼이 AI의 安全과 會社의 使命보다 利潤을 더 優先視하고 있다는 理由로 수츠케베르가 理事會 構成員을 說得해 그를 解雇했다고 한다.

올트먼은 解雇되기 몇 달 前 投資者들에게 새로운 AI 프로젝트에 對한 아이디어를 몇 가지 提示했다. 여기에는 엔비디아와 競爭할 수 있는 맞춤型 칩 開發 計劃과 함께 Q* 알고리즘 프로젝트가 包含돼 있었다. 챗GPT로 1年 만에 商業的 成長과 急速한 技術 開發을 이룬 오픈AI의 內部 分裂 中心에 바로 Q* 알고리즘이 있는 것이다.

人間과 類似한 Q*

오픈AI의 코드 生成(Code Gen) 팀과 數學 生成(Math Gen) 팀이 結合해 推進하는 Q* 알고리즘 프로젝트는 現在 祕密裏에 進行되고 있다. 技術 커뮤니티를 통해 조금씩 情報가 流出되고 있는 바에 따르면 Q* 알고리즘은 Q러닝과 A* 檢索을 結合한 새로운 AI 모델로 推定된다. 事前 定義된 知識에 依存하는 챗GPT와 달리 Q*는 人間의 認知 機能과 類似한 高級 推論을 하도록 訓鍊받는다. 人間과 같은 推論과 認知 能力을 갖춘 AGI로 나아가는 段階라 할 수 있다. 아직 細部 事項이 公開되지 않았지만 오픈AI 內部 硏究員들이 놀랄 만큼 劃期的인 技術 成果를 이뤘다는 報告가 있다. 가장 큰 特徵은 初等學生 水準의 基本 數學 問題를 自律的으로 解決하는 能力을 갖췄다는 點이다.

그동안 많은 科學者가 數學 問題를 푸는 AI 모델을 開發하려고 애썼지만 쉽지 않았다. AI 모델로 하여금 自身이 다루는 內容을 推論하고 實際로 理解할 수 있는 能力을 갖추게끔 만드는 것은 매우 어려운 課題이기 때문이다. 웬다 리 英國 헤리엇와트대 컴퓨터科學科 조敎授는 ‘MIT테크놀로지리뷰’를 통해 “現在까지 AI를 使用해 數學 問題를 安定的으로 풀 수 있는 알고리즘이나 올바른 아키텍처조차 없는 實情”이라며 “言語 모델이 使用하는 딥 러닝과 變換器(神經網의 一種)는 패턴 認識에 卓越하지만 그것만으로는 數學을 풀기에 充分하지 않다”고 말했다.

챗GPT와 GPT-4 같은 旣存 言語 모델로 一部 計算을 遂行할 수는 있지만 그다지 效率的이거나 安定的이지 않다. 이 AI 모델은 다음 單語를 統計的으로 豫測해 글쓰기나 言語 飜譯이 可能하지만 같은 質問에도 答辯이 달라지는 境遇가 많다. 實際가 아닌 答을 그럴듯하게 말하는 ‘幻覺’이 생겨나는 境遇도 頻繁하다. 正答이 하나뿐인 數學을 征服한다는 것은 AI가 人間 知能과 類似한 推論 能力을 갖췄다는 것을 意味한다. 따라서 이러한 機能은 高級 AI 시스템의 特徵이며, 人間 頭腦처럼 廣範圍한 知的 作業을 遂行할 수 있는 AGI로 꼽힌다.

그동안 챗GPT 같은 巨大 言語 모델이 發展해왔지만 많은 AI 硏究者는 AGI가 開發될 것이라고 쉽게 豫測하지 못했다. 專門家들은 AGI 段階로 發展하기까지 앞으로 數十 年은 아니더라도 數年이 걸릴 것이라고 말해왔다. 한便으로는 急激히 發展하는 AI 技術에 警戒心을 나타내는 이들도 있다. 딥러닝의 先驅者인 제프리 힌턴 캐나다 토론토대 컴퓨터科學者 또한 그中 한 名이다. 그는 ‘더뉴요커’를 통해 “人間 頭腦에는 못 미칠 것이라 생각했던 컴퓨터 모델이 어느새 人間의 實存을 威脅하는 技術로 發展했다”며 “AI가 우리보다 똑똑해지더라도 人間에게 有益한 일을 하도록 制御하는 것은 매우 어려울 展望”이라고 말했다.

오픈AI의 Q* 알고리즘 停滯가 一部 流出되면서 技術 커뮤니티에서도 歡呼와 憂慮가 同時에 쏟아지고 있다. 勿論 數學 能力이 더욱 强化된 AI 시스템에 한 걸음 더 가까이 다가가도록 할 수는 있지만, 數學 問題를 解決한다고 해서 超知能이 誕生했다는 意味는 아니다. 그럼에도 Q* 알고리즘 開發을 憂慮하는 理由는 高級 推論 및 意思決定 機能을 통해 豫測할 수 없는 行動이나 結果가 發生할 수 있기 때문이다. 또한 誤用되거나 意圖하지 않은 結果가 發生할 可能性도 看過할 수 없다. AGI에 가까워질수록 技術 發展과 責任을 아우르는 ‘AI 安全’이라는 키워드가 떠오르는 理由다.

最近 수츠케베르는 AI로 인한 危險을 管理하는 超整列(Superalignment) 팀을 이끌고 있다. 이 팀의 目標는 모든 領域에서 人間의 知能을 凌駕하는 超人工知能 시스템이 開發될 때를 對備해 AI가 人間의 價値와 目標에 따라 行動하도록 管理하는 메커니즘을 構想하는 것이다. 사내 컴퓨팅 性能의 20%를 投入할 만큼 比重 있게 運營되고 있다.

AI 危險에 國際社會 함께 對應해야

수츠케베르는 ‘가디언’을 통해 “AI가 失業, 疾病, 貧困 等 우리가 안고 있는 모든 問題를 解決할 것으로 期待한다”며 “한便으로는 AGI가 올바르게 프로그래밍되지 않으면 假짜 뉴스 問題가 百萬 倍 惡化되고 사이버 攻擊이 極甚해지는 等 훨씬 많은 이슈를 만들어낼 것”이라고 警告했다.

11月 英國이 主催한 AI 安全 會議 또한 같은 脈絡에서 마련된 글로벌 頂上會議다. 이番 會議는 英國 버킹엄셔週 블레츨리 파크에서 열렸다. 블레츨리 파크는 컴퓨터科學의 아버지로 불리는 앨런 튜링이 第2次 世界大戰 當時 最初의 컴퓨터를 만들고 獨逸 에니그마 暗號를 解讀한 象徵的인 곳이다. 유럽聯合(EU)을 비롯해 英國, 美國, 中國, 印度 等 20餘 個 參加國은 블레츨리 宣言을 통해 AI를 安全한 方式, 卽 人間 中心的이고 信賴할 수 있으며 責任感 있는 方式의 設計·開發·配布·使用에 協議할 것을 明示했다. 그리고 意圖的인 惡用과 意圖치 않은 結果 等 AI가 가진 ‘潛在的’ 危險에 對應하기 위해 國際社會가 協力해야 한다고 促求했다.

世界的인 딥러닝 硏究者 中 한 名인 캐나다 컴퓨터科學者 요슈아 벤지오는 ‘네이처’를 통해 “매우 有用하면서도 潛在的 危險性이 있는 시스템을 構築하는 只今, AI 安全에 對한 키워드는 더는 避할 수 없는 主題”라며 “製藥會社들이 生産하는 藥에 毒性이 없다는 것을 證明하려고 莫大한 돈을 쓰듯이, AI 技術 또한 安全하다는 것을 證明하기 위한 努力이 必要하다”고 말했다.

_{*유튜브와 포털에서 各各 ‘매거진東亞’와 ‘투벤저스’를 檢索해 팔로剩하시면 記事 外에도 動映像 等 多彩로운 投資 情報를 만나보실 수 있습니다.}