“‘GPT-4’는 이미지를 蒐集하고 이를 身元에 連結한 뒤 綜合的인 프로필을 만들어 大規模 監視를 할 수 있습니다. 우리는 美國 聯邦去來委員會(FTC)에 ‘오픈AI’와 그 製品 ‘챗GPT’에 對한 調査를 要求할 것입니다. 適切한 安全裝置가 마련될 때까지 GPT 시리즈의 追加 商用버전 出市를 中斷하도록 FTC에 要請할 것입니다.”

美國 非營利團體 ‘人工知能 및 디지털 政策 센터(CAIDP)’의 마크 로텐버그 會長이 3月 20日(現地 時間) CAIDP 構成員들에게 보낸 e메일 內容의 一部다. 로텐버그 會長은 이 e메일에서 生成型 AI의 危險性을 强調한 뒤 3月 30日 FTC에 오픈AI를 告發했다. FTC가 實際로 오픈AI에 對한 調査를 벌일지는 未知數지만 調査가 現實化할 境遇 最近 全 世界에 불고 있는 챗GPT 突風도 주춤해질 것이라는 分析이 나온다.

“오픈AI, 法 꼼꼼히 안 따져”

最近 美國에선 GPT-4 等 超巨大 AI 言語 모델 基盤의 生成型 AI에 對한 憂慮가 커지고 있다. CAIDP가 3月 30日 FTC에 오픈AI에 對한 調査를 促求한 게 그中 하나다. CAIDP는 이날 FTC에 提出한 告發狀에서 “오픈AI가 商業的으로 出市한 GPT-4는 偏向的이고, 欺瞞的이며, 個人情報保護와 公共安全에 威脅이 된다”면서 “GPT-4는 透明하고, 說明 可能하고, 公正하고, 健全하고, 責任을 强化해야 한다는 FTC의 AI 使用 基準을 充足하지 못한다”고 指摘했다. 이 같은 CAIDP의 告發은 里나 칸 FTC 委員長이 3月 27日 美國 法務部와 進行한 反獨占 關聯 會議에서 “AI 分野가 主要 빅테크 플랫폼에 依해 支配되지 않도록 살펴보고 있다”고 發言한 뒤 이뤄진 것이어서 實際로 FTC가 오픈AI에 칼날을 겨눌지 더욱 關心이 集中되고 있다.

또 다른 美國 非營利團體 ‘삶醫未來硏究所(FLI)’는 3月 22日 ‘超巨大 AI 開發 一時 中斷’이라는 題目의 公開書翰을 發表했다. “GPT-4보다 强力한 AI 시스템 開發을 最小 6個月間 中斷해야 한다”는 內容의 이 書翰에는 4月 5日 午後 7時 基準으로 9396名이 署名했다. 일론 머스크 테슬라 最高經營者(CEO), 스티브 워즈니악 애플 共同創業者, 유발 하라리 예루살렘히브리대 敎授 等 有名 人士와 요슈아 벤지誤 2018 튜링上 受賞者, 스튜어트 러셀 버클리대 컴퓨터科學科 敎授 等 AI 分野 權威者 1300餘 名이 署名에 同參해 話題가 되기도 했다. FLI는 이 書翰에서 “AI 시스템 開發을 一時的으로 中斷하는 동안 AI 專門家들이 獨立的인 外部 專門家의 監督 下에 ‘高級 AI 設計 및 開發을 위한 安全 프로토콜’을 共同으로 具現해야 한다”고 主張했다.

國內 專門家들은 이런 美國 內 生成型 AI 規制 試圖가 AI業界를 위축시킬 수 있다고 分析한다. 조성배 연세대 컴퓨터工學科 敎授는 “FTC가 正말로 오픈AI를 調査할지, 그렇게까지 AI 企業의 營業 活動을 制限하려 들진 모르겠다”면서도 “다만 情況上 오픈AI가 GTP-4를 開發할 때 著作權이나 個人情報保護에 關한 法을 꼼꼼히 따지면서 學習用 데이터를 蒐集한 것 같진 않기 때문에 FTC가 調査에 着手한다면 오픈AI를 비롯한 AI業界가 全般的으로 움츠러들 것으로 보인다”고 말했다. 서민준 KAIST 金在哲AI大學院 敎授는 “FLI의 AI 開發 暫定 中斷 提案은 安全 프로토콜을 만들자는 것 外에도 具體的으로 어떤 AI 規制가 必要한지 論議할 時間을 벌자는 意味”라며 “이런 論議가 活潑해지면 AI 企業들도 一旦은 숨을 골라야 하지 않을까 싶다”고 說明했다.

이탈리아 이어 캐나다 調査 着手

아예 國家 次元에서 生成型 AI 使用을 制限하는 事例도 續續 登場하고 있다. 3月 20日 發生한 챗GPT 個人情報 流出 事故가 불씨가 됐다. 이탈리아 데이터保護廳은 3月 31日 “챗GPT가 이탈리아의 個人情報保護 規定을 遵守할 때까지 서비스 接續을 一時的으로 遮斷할 것”이라며 自國 內 챗GPT 使用을 禁止했다. 이날 이탈리아 데이터保護廳은 “챗GPT가 알고리즘 訓鍊을 위해 個人情報를 大量으로 蒐集·貯藏하는 行爲를 正當化해줄 法的 根據가 없다”며 “오픈AI가 20日 以內에 對策을 내놓지 않으면 2000萬 유로(藥 287億 원) 또는 年間 全 世界 賣出額의 4%를 罰金으로 물게 될 것”이라고 警告했다. AFP通信 等 外信에 따르면 캐나다에서도 4月 4日 個人情報 流出과 關聯해 오픈AI에 對한 當局 調査가 始作됐다. 프랑스, 아일랜드, 獨逸 等 유럽 國家들도 이탈리아와 接觸하며 챗GPT 使用 禁止를 檢討하고 있는 것으로 알려졌다. 韓國의 境遇 4月 3日 美國을 訪問하고 있던 고학수 個人情報委員會 委員長이 現地 特派員 懇談會에서 “챗GPT를 통해 韓國 使用者의 個人情報가 流出됐는지 與否를 確認 中”이라고 말했다.

챗GPT 통해 營業機密 새 나가

오픈AI는 3月에만 두 次例 自社 AI 利用約款을 改正하며 事態를 進化하고 있다. 이와 關聯해 서민준 敎授는 “오픈AI가 最近 AI 利用約款을 업데이트하고 API(응용프로그램 인터페이스)를 통해 蒐集한 데이터는 AI 學習 및 性能 改善에 活用하지 않겠다는 等의 內容을 明示했다”며 “하지만 이는 約款에 不過하고 各國은 自國 데이터가 오픈AI로 흘러들어가는 것 自體를 願치 않기 때문에 이탈리아를 筆頭로 生成型 AI를 規制하려는 國家的 움직임은 한동안 繼續될 것”이라고 말했다.

個別 企業들도 生成型 AI의 使用을 막는 雰圍氣다. 國內에선 最近 三星電子가 챗GPT 關聯 使用 指針을 强化했고, SK하이닉스는 사내에서 챗GPT 使用을 事實上 禁止했다. 三星電子는 디바이스솔루션(DS) 部門에 限해 3月 11日부터 業務에 챗GPT를 導入했는데, 以後 一部 任職員이 設備 情報, 會議 內容 等을 챗GPT에 入力해 營業機密이 流出되는 事故가 發生했다. 이로 因해 DS 部門은 챗GPT에 入力할 수 있는 글字 數 等을 緊急 制限하고, 사내 揭示板에 챗GPT 誤濫用에 關한 注意를 當付하는 公知를 올렸다. 아직 챗GPT를 쓸 수 없는 三星電子 디바이스經驗(DX) 部門에선 向後 챗GPT 導入에 따른 保安 問題 等을 防止하고자 任職員을 對象으로 챗GPT 細部 使用 指針 마련에 關한 事前 設問調査를 進行했다. SK하이닉스는 原則的으로 사내 인터넷網을 통한 챗GPT 接續을 禁止하고 있다. 使用이 必要할 境遇 社側 承認을 받아야 한다. 이 밖에 SK텔레콤, 포스코 等도 챗GPT 使用에 關한 自體 가이드라인을 두고 있다. 앞서 美國에선 월街 投資銀行 多數와 아마존, 월마트 等이 챗GPT 使用을 全面 禁止하거나 一部 制限했다.

서민준 敎授는 “以前까지는 企業 任職員이 營業機密을 作定하고 流出하려는 생각이 있지 않은 以上 이걸 웹사이트 어딘가에 入力할 일이 없었는데 이제는 業務 效率性이 올라가기 때문에 自己도 모르게 營業機密을 밖으로 새 나가게 하고 있다”며 “生成型 AI에 對한 企業들의 規制는 不可避한 現象”이라고 評價했다. 조성배 敎授는 “向後 企業들이 生成型 AI에 關한 더 촘촘한 使用 指針을 마련할 것”이라며 “얼마 前 샘 올트먼 오픈AI CEO가 5~6月 全 世界를 돌면서 政策 立案者들을 만나겠다고 한 것도 結局 各國 政府와 企業의 곱지 않은 視線을 拂拭하기 위한 次元”이라고 말했다.

_{*유튜브와 포털에서 各各 ‘매거진東亞’와 ‘투벤저스’를 檢索해 팔로剩하시면 記事 外에도 動映像 等 多彩로운 投資 情報를 만나보실 수 있습니다.}