• 수츠케버와 社外理事陣이 主導한 쿠데타

• “AI 受惠者는 오픈AI 投資者 아닌 人類”

• 올트먼 投資 스타트업과 利害關係 衝突 可能性도

오픈AI 設立者 兼 CEO 샘 올트먼이 2023年 11月 17日(現地 時刻) 급작스레 解任된 事件으로 실리콘밸리 AI 業界에는 巨大한 暴風이 몰아쳤다. 챗GPT 開發社이자 世界 最高 AI 企業으로 評價받는 會社의 設立者가, 그것도 事業이 順航하는 途中 쫓겨났기 때문이다.

올트먼을 解任한 오픈AI 理事會가 같은 달 21日 그의 CEO 復歸를 發表, 5日間의 드라마는 幕을 내렸지만, 餘震은 繼續되고 있다. 오픈AI 理事會는 再編됐으며 12月 出市 豫定이던 GPT 스토어 서비스는 2024年 初로 延期됐다.

더 重要한 事實은 이 事件이 오픈AI의 構造的 矛盾, AI 技術의 統制에 對한 남겨진 課題를 드러냈다는 點이다. 새롭게 構成된 理事會의 役割과 權限, 멤버 擴張 및 方向性도 論議가 進行 中인 事案이다. 올트먼 CEO 解任 事由 調査와 더불어 AI 安全을 追求하는 陳永, 效率性과 積極的 商用化를 追求하는 陣營 사이의 論爭도 繼續될 展望이다.

安全 重視 vs 빠른 開發

非營利法人으로 出發한 오픈AI는 社內理事 3名(共同創業者 3人, 샘 올트먼, 그렉 브록만, 일리야 수츠케버), 社外理事 3名(애덤 디엔젤로, 헬렌 토너, 타샤 매카울리)으로 構成된 理事會가 營利 企業을 支配하는 獨特한 構造를 取하고 있었다.

일리야 수츠케버와 社外理事 4人이 샘 올트먼, 그렉 브록만 共同創業者를 理事會에서 解任했지만 會社 職員, 投資者 및 파트너社와 充分한 相議 없이 갑작스럽게 斷行된 意思決定 方式이 問題가 됐다.



結局 解任 直後 마이크로소프트에 合流하기로 暫定 合意한 올트먼은 오픈AI 職員 95% 以上이 參與한 復歸 要求, 投資者들의 說得과 仲裁에 힘입어 다시 오픈AI의 CEO로 돌아왔다.

브록만에 따르면 올트먼은 오픈AI 理事陣의 解任 通報 前날 밤 수츠케버로부터 다음 날 正午에 畫像會議를 하자는 文字를 받았다. 올트먼은 要請대로 낮 12時 즈음 구글 미트(Google Meet·畫像會議 솔루션)를 통해 會議에 參與했고, 브록만을 除外한 모든 理事會 멤버가 會議에 參席한 狀態였다. 수츠케버는 올트먼에게 “當身은 解任될 것이고, 이 消息이 곧 發表된다”고 通報했다.

브록만이 理事會로부터 連絡을 받은 건 이날 낮 12時 19分이었다. 수츠케버로부터 會議 要請 文字를 받은 그는 몇 分 뒤인 12時 23分 구글 미트에 接續했다. 會議에서 브록만은 “當身은 理事會에서 解任되지만, 會社에서 重要한 役割을 擔當하고 있었기 때문에 社長(president) 職責은 維持된다. 샘 올트먼은 解任됐다”는 通報를 받았다.

거의 비슷한 時點에 오픈AI는 이런 內容을 담은 블로그 揭示物을 大衆에 公開했고, 깜짝 놀란 브록만은 올트먼과 連絡을 取한 後 自身도 會社를 떠나겠다고 밝히기에 이른다. 브록만은 “前날 밤에 이 事實을 알게 된 미라 무라티 CTO(最高技術責任者)를 除外한 다른 經營陣(the management team)은 理事會 發表 以後 이 事實을 알게 됐다”고 說明했다.

效果的 利他主義 貫徹 意圖?

業界에서 推測하는 解任 背景 中 하나는 ‘AGI(汎用人工知能)를 둘러싼 異見’이다. 安全을 重要하게 생각하는 수츠케버 陣營과 빠른 速度·性能·商用化를 强調한 올트먼이 衝突했고, 그가 밀려났을 것이란 推測이다.

實際로 오픈AI 理事會가 解任을 發表한 後 職員들을 안심시키기 위해 연 前 職員會議(all hands meeting)를 살펴보면 會社 內部에서 이와 關聯된 葛藤이 있었음을 斟酌할 수 있다.

실리콘밸리 미디어 디인포메이션이 報道한 前 職員會議 錄取錄에 따르면 最小 두 名의 職員이 수츠케버 共同創業者에게 “샘 올트먼의 解任이 쿠데타인지 알려달라”고 質問했고, 수츠케버는 “쿠데타라고 불러도 된다”고 答했다.

올트먼이 安全 問題를 犧牲하면서까지 챗GPT 商用化를 위해 너무 서두르고 있다고 判斷, 수츠케버가 果敢한 措置를 取했을 수 있다는 게 一部 職員들의 생각이다. 實際로 수츠케버는 過去부터 AGI의 危險性과 이를 위한 安全裝置의 必要性을 數次例 言及해 온 바 있다. AI 安全 問題와 關聯해 오픈AI 內部에 新設한 팀 ‘超整列(Superalignment·超知能 制御)’을 이끄는 人物도 수츠케버다.

오픈AI의 獨特한 支配構造도 再次 注目받고 있다. 會社 블로그에 公開된 바에 따르면 오픈AI를 支配하는 理事會는 非營利法人의 理事會이며 “各 理事는 公益을 追求를 위한 AGI 使命 達成 義務를 遂行해야 한다”고 明示돼 있다.

또 “營利法人(OpenAI Global, LLC)의 收益 創出과 分配는 許容되지만, 이 使命에 따라야 한다. 主要 受惠者는 오픈AI 投資者가 아닌 人類”라고 못 박았다. CEO의 經營 方式이 會社의 非營利的 目的, 使命에 어긋난다고 判斷될 境遇 解任의 根據가 될 수 있는 셈이다.

이런 構造 때문에 非營利法人(OpenAI, Inc. 501c3)의 子會社(OpenAI Global LLC, 營利法人)에 110億 달러(14兆3000億 원) 以上을 投資한 大株主 마이크로소프트조차 오픈AI의 經營에 全혀 關與할 수 없다. 投資에 따른 收益 上限도 投資金의 100倍로 固定, 이를 超過할 수 없도록 돼 있다. 올트먼 亦是 非營利法人 株式을 保有하고 있지 않다.

‘Q스타’가 雷管?

올트먼의 解任을 議決한 일리야 수츠케버, 타샤 매카울리, 헬렌 토너, 애덤 디엔젤로가 ‘效果的 利他主義(effective altruism)’ 運動과 關聯 있다는 分析도 있다. 效果的 利他主義는 妥當한 根據를 基盤으로 해 利他主義를 實現한다는 社會運動이다. 社會 全體에 도움이 되는 行動을 效果的으로 해야 한다는 것이 이 運動의 核心이다. 業界에서는 “自身에게 人類를 救援할 특별함이 있다고 믿는 效果的 利他主義者들은 極端的 行動을 서슴지 않는다”는 批判이 나왔다.

로이터 報道에 따르면 올트먼 解任 事態가 發生하기 前인 2023年 11月 14日 一部 오픈AI 硏究員들은 經營陣에 AI 開發 速度가 너무 빠르다고 警告하는 書翰을 보냈다.

이 書翰을 통해 AGI 開發을 앞당길 수 있다는 ‘Q*(큐스타)’ 프로젝트의 存在가 알려졌다. 큐스타는 移轉 AI 모델에서는 具現할 수 없던 數學 問題를 푸는 데 成功했다고 알려진 AI 모델이다. 올트먼 解任 前 오픈AI 內部에서 큐스타 試演이 이뤄졌고, 一部 硏究者들이 이에 對한 憂慮를 表明한 것으로 알려졌다. 이 모델은 아직 外部에 公開되지 않았다.

數學은 生成型 AI 開發의 最前線으로 看做된다. 現在 生成型 AI는 다음에 이어질 單語를 統計的으로 豫測해 글쓰기와 言語 飜譯에 能熟하다. 챗GPT 亦是 텍스트 데이터를 主로 活用해 학습시킨 LLM(大規模 言語 모델) ‘GPT’ 基盤으로 作動한다.

質問에 對해 確率的으로 正答에 가까운 答辯을 내놓는 AI 챗봇은 사람과 비슷하게 느껴지지만, 잘못된 情報 ‘歇루시네이션(Hallucination·幻覺)’ 亦是 答辯으로 提示한다. 正答이 單 하나뿐인 數學 問題를 풀 수 있다는 것은 AI가 人間의 知能과 類似한 推論 能力을 갖게 된다는 意味다.

業界에서는 Q스타가 LLM을 包含한 여러 人工神經網(Neural Network)을 活用하는 方式으로 作動할 것이란 推測이 나오고 있다.

利害關係 衝突 可能性

한便 지나치게 빠른 AI 開發, 商用化 計劃 等 올트먼의 經營 方式과 이番 解任은 상관없다는 主張도 있다. 헬렌 토너 前 오픈AI 理事는 11月 29日(現地時刻) X(옛 트위터)에 올린 揭示物을 통해 오픈AI의 業務 速度를 늦추려는 意圖가 없었다고 解明했다.

그는 올트먼의 解任에 贊成한 人物이다. “올트먼이 理事會와 一貫되게 率直한 醫師疏通을 하지 않았다”는 것 外에는 解任 背景에 對해 알려지지 않은 가운데, ‘效果的 利他主義者人 오픈AI 前 理事陣이 샘 올트먼을 解任, AI 開發 速度를 늦추려 한 것 아니냐’는 推測이 나오자 本人이 나서 이를 否認한 것이다.

토너는 “저희의 決定은 理事會가 會社를 效果的으로 監督할 수 있도록 하는, 卽 저희의 役割과 責任에 根據한 것이었다”며 “여러 推測이 있었지만, 오픈AI의 業務 速度를 늦추려는 意圖가 全혀 없었다”고 强調했다.

이와 關聯, 실리콘밸리 關係者들은 ‘利害關係 衝突’李 背景일 可能性도 있다고 分析한다. 美國에서 CEO가 쫓겨나는 主要 事例는 株價 不振, 實績 惡化로 株主와 理事會를 실망시킨 境遇, 性醜行 等 不適合한 行動을 한 境遇, 或은 CEO가 個人의 利益을 追求하며 會社의 利益에 反하는 行動을 했다는 事實이 밝혀지는 境遇다.

올트먼은 實績 不振과 상관없고, 現在까지 不適合한 行動과 連累됐다는 事實도 밝혀지지 않았기 때문에 ‘利害關係 衝突’ 可能性이 높다는 觀測이다. 特히 그가 發掘하고 投資한 스타트업이 오픈AI와 競爭하거나 오픈AI의 使命 或은 利益에 反하는 結果를 招來할 수 있다는 憂慮가 提起됐을 수 있다.

실리콘밸리 미디어 ‘細麻布(Semafor)’에 따르면 올트먼은 딥 테크(Deep tech)에 焦點을 맞춘 새로운 벤처캐피털(VC) 펀드를 募金하고 있다. 스타트업 投資會社 와이콤비네이터(YC) 社長 出身인 올트먼은 오픈AI CEO로 在職하며 個人的으로 여러 스타트업에 投資하기도 했다.

AI 칩 스타트업 ‘레인AI(Rain AI)’은 올트먼이 個人的으로 投資한 代表的 스타트업이다. 블룸버그에 따르면 바이든 行政府는 最近 사우디 國富펀드 아람코(Aramco)에 對해 레인AI 持分을 賣却하도록 强要했다. 美國 國家 安保를 위해 이런 決定을 했다는 게 美國 外國人 投資委員會의(CFIUS)의 說明이다.

사람 닮은 AI 規制 可能할까

오픈AI는 2023年 11月 29日(現地 時刻) 會社 聲明을 통해 샘 올트먼 CEO, 미라 무라티 CTO, 그렉 브록만 社長의 公式 復歸를 發表했다.

새롭게 構成된 理事會는 알려진 대로 브렛 테일러(議長) 세일즈포스 前 CEO, 래리 서머스 前 財務長官(하버드대 敎授), 애덤 디엔젤로 쿼라 CEO 3人으로 確定됐다. 最大 投資者인 마이크로소프트는 議決權은 없으나 理事會 會議에 參與할 수 있는 參觀人(non-voting observer) 地位만 얻었다.

올트먼은 公式 聲明을 통해 앞으로 세 가지 優先順位에 立脚해 會社를 經營하겠다고 밝혔다. 硏究 計劃을 發展시키고 安全에 集中한다는 原則이 첫 番째, 製品을 持續해서 改善·配布, 顧客에게 서비스를 提供한다는 게 두 番째다. 마지막 優先順位는 거버넌스 構造(支配構造) 改善이다.

올트먼은 “危機를 機會로 바꿀 것”이라며 “새 理事會는 最近 事件(自身의 解任)에 對한 獨立的인 檢討를 監督하는 매우 重要한 任務를 맡는다. 이들과 緊密히 協力해 모두가 오픈AI의 安定性에 對한 確信을 가질 수 있기를 期待한다”고 했다.

그는 “世界 最高의 팀, 世界 最高의 使命을 가진 여러분과 함께 有益한 AGI를 構築할 수 있길 바란다”고 덧붙였다.

重要한 건 이로써 모든 問題가 解決된 건 아니라는 點이다. 公益을 앞세운 非營利法人이 營利法人을 支配하는 矛盾은 如前하며 이 構造가 追加的 葛藤을 觸發할 可能性은 남아 있다. 테크 企業 저널리스트 벤 톰슨은 뉴스레터를 통해 “이番 事態의 가장 큰 損失은 ‘會社를 組織하는 올바른 方法은 營利法人뿐’이라는 一般的 槪念을 깨지 못한 것”이라고 評價하기도 했다.

AI 技術 統制 問題도 마찬가지다. 美國 言論 스타트업 악시오스 創業者 짐 밴더하이는 샘 올트먼의 解任과 關聯해 發行한 칼럼에서 “企業들은 AI 競爭에 水槽 달러를 쏟아붓고 있다. 政府는 AI 規制를 다루기에 지나치게 分裂돼 있다”며 “生成型 AI를 實質的으로, 確實하게 規制할 수 있는 方法은 쉽게 나오지 않을 것”이라고 했다.