AI가 무서운 眞짜 理由[오늘과 來日/김용석]

東亞日報
入力 2023年 5月 5日 21時 30分

코멘트: 個

좋아요: 個

코멘트: 個

人間의 常識을 무너뜨리는 AI
‘安全한 AI’에 關心 기울여야

사람처럼 말하고, 글 쓰고, 그림 그리는 生成型人工知能(AI)李登場한 以後 AI의 危險性을 警告하는 목소리가 이어지고 있다.

이른바 ‘AI 警戒論’에서 가장 무서운 地點은 AI가 正確히 얼마나 무서운 것인지 알기 어렵다는 點이다. 一般人은 勿論相當數專門家도 마찬가지다. AI를 훈련시키려면 莫大한 데이터와 컴퓨팅 파워가 必要하다. 큰 費用이 드는 일이다. 極少數 빅테크를 除外한 나머지는 사실 AI 危險性實體에 가까이 接近하기조차 어렵다.

따라서 누구보다 AI를 잘 아는 제프리 힌턴 토론토대 敎授가 내놓는 警告야말로 恐怖를 極大化하는, 호러映畫 하이라이트와 같다. 힌턴 敎授는 神經網을 通한 機械學習(딥 러닝)을 考案해 現在의 AI를 可能케 한 人物이다. 챗GPT를 開發한 오픈AI 最高科學者 일리야 수츠케버가 그의 首弟子다.

그는 AI 危險性을 알리겠다면서 구글에 辭表를 냈다. 以後 뉴욕타임스와의 인터뷰에서 AI와 로봇 技術을 活用한 킬러 로봇 可能性을 言及하며 “核武器와 달리 AI는 祕密裏에 硏究하면 밖에서 알아낼 方法이 없다. AI 惡用試圖를 막기 어려울 것”이라고 警告했다.

專門家들 警告에서 注目할 點은 우리 삶이 依存하고 있는 常識의 崩壞를, AI가 가져올 수 있다고 짚은 部分이다. 自然語處理(NLP) 分野世界的權威者인 최예진 美 워싱턴대 敎授는 最近 TED 講演에서 AI가 辯護士試驗에 合格할 程度로 뛰어난 知的能力을 가지고 있으면서도 常識側面에서는 ‘衝擊的으로 멍청하다’는 事實을 指摘했다.

AI의 沒常識은 常識을 벗어나는 悲劇을 낳을 수 있다. 닉 보스트롬 옥스퍼드大敎授는 종이 클립 生産을 極大化하기 위해 만들어진 AI 事例를 든다. AI는 目的達成을 위해 ‘非常識的이게도’ 人間生命을 희생시킬 수 있다는 것이다. 빅테크들은 ‘人間을 해치지 말 것’이라는 命令을 학습시킴으로써 이를 解決할 수 있다고 믿는다. 하지만 崔敎授는 常識的인 人間이 想像할 수 없는 수많은 非常識的手段(世上의 모든 나무를 沒殺시키거나 하는)을 모두 막아낼 수는 없을 것이라고 說明한다.

더 나아가 人間常識의 形成過程을 AI가 支配할 可能性도 있다. 이스라엘 歷史學者인 유발 하라리는 人權과 같은 常識的인 槪念은 우리 DNA에 새겨진 것이 아니라 오랜 期間人間이 이야기를 통해 쌓아 올리고 있는 文化的人工物이라고 본다. 常識基盤을 構成하는 宗敎, 經濟야말로 人間의 스토리텔링이 만들어낸 最高의 發明品이라는 것이다.

AI는 이미 人間과 社會的關係를 맺고 이야기를 共有하는 데 人間以上의 能力을 갖췄음을 보여주고 있다. AI가 만들어낸 이야기와 寫眞에 人間은 共感하고 생각을 바꾼다. 하라리는 이코노미스트 寄稿文에서 AI가 글 또는 造作된 이미지를 통해 落胎, 氣候變化, 러시아의 우크라이나 侵攻에 對한 이야기를 하게 될 때 人類文明의 終末이 始作될 것이라고 警告했다.

AI의 威脅은 氣候危機와 닮아 있다. 一般個人은 事態惡化에 크게 寄與한 적도 없고, 惡化徵候를 認識하기도 어렵다. 하지만 누구든 氣候危機를 避할 수 없다. 따라서 必然的으로 우리가 맞이하게 될 AI 時代의 危險에 對한 對應은 共同體의 關心事가 돼야 한다. 倫理的인 AI, 持續可能한 AI를 갖기 위한 關心과 討論을 게을리한다면 崔敎授가 警告한 것처럼 우리는 앞으로 極少數 빅테크의 自費에만 依存하게 될 수도 있다.

김용석 産業1部長 yong@donga.com

#오늘과 來日 #ai #生成型人工知能 #챗gpt #ai의 威脅