幕 오른 AI 時代, 그리고 威脅받는 民主主義 [金度演 칼럼]

東亞日報
入力 2023年 11月 29日 23時 45分

코멘트: 個

좋아요: 個

코멘트: 個

AI, 知的革命契機지만 ‘兩날의 劍’이기도 해
造作된 情報로 公明正大한 選擧威脅할 수도
與野, AI 통한 選擧惡用制御方法 마련해야

김도연 객원논설위원·태재미래전략연구원 이사장 — 김도연 客員論說委員·太宰未來戰略硏究院理事長

AI, 卽人工知能을 처음으로 槪念化한 사람은 컴퓨터科學의 아버지라 불리는 앨런 튜링이다. 그는 1950年에 ‘생각하는 機械’도 可能한가라는 質問을 던지며 이를 人間과의 對話能力으로 測定하자는 所謂 튜링 테스트를 提案했다. 卽, 주어진 質問에 對해 機械와 人間의 答辯을 區別할 수 없으면 그것이 바로 人工知能이라는 것이다. 機械가 어떻게 答辯을 만드는지는 重要하지 않으며 이는 實際人間關係에서도 마찬가지라고 指摘했다. 實際로 對話는 知能을 지닌 人間만의 能力이다.

專門家들이 이렇게 AI에 關心을 갖기 始作한 것은 이미 오래前이다. 그러나 AI가 一般人들에게 다가온 것은 李世乭 프로 바둑 技士가 AI에 完敗한 2016年이었다. 西洋將棋에서는 벌써 오래前 컴퓨터가 人間을 밀어냈지만, 無限에 가까운 바둑의 數를 헤아리는 것은 不可能하다고 믿었는데 AI가 이를 突破한 것이다. AI는 그 後에도 繼續 빠르게 發展해서 昨年末에는 드디어 우리가 쓰는 日常言語로 쉽게 疏通하면서 有用한 知識과 情報를 提供하는 生成型 챗GPT가 삶에 들어왔다.

챗GPT에 스스로는 튜링 테스트를 通過한 것이냐고 물었더니 다음과 같은 答辯이 돌아왔다. “저는 通過與否를 判別할 수 없습니다. 튜링 테스트는 機械와 人間을 區別하기 위해 人間이 遂行하는 主觀的評價입니다. 제가 튜링 테스트를 通過했는지에 對해서는 사람마다 다른 意見을 가질 수 있습니다. 저는 人間과 類似한 應答을 生成하지만, 意識이 있는 存在가 아니며 自覺이나 眞正한 理解力을 가지고 있지 않습니다.” 이 答辯이라면 튜링 테스트 通過일까? 튜링 本人이 살아 있다면 果然 어떻게 評價했을까? 如何튼 器械의 對話能力은 벌써 대단한 境地다. 人工知能時代의 幕이 활짝 열린 것이다.

500餘年前發明된 金屬活字를 利用하는 印刷技術은 指摘(知的) 革命을 가져왔다. 極少數上流層만 所有할 수 있었던 冊이 쉽게 만들어지면서, 知識의 擴散과 蓄積이 加速되었다. 그리고 活字가 있는 곳에는 삶의 큰 變化, 卽革命이 일어났다. 印刷技術은 宗敎改革을 觸發했고 프랑스 大革命이나 英國産業革命의 씨앗이 되었다. 그 結果로 오늘의 우리는 豐足한 産業文明時代를 살고 있다. 그런데 AI는 人類의 産業文明을 디지털 時代로 轉換시키는 또 다른 知的革命의 契機가 될 것으로 믿어지고 있다. AI 技術發展은 이제 겨우 始作點에 있으니, 우리 社會는 政治, 經濟, 國防 그리고 敎育等 모든 側面에서 엄청난 變化를 맞게 될 것이다.

여기에서 各別히 留念해야 할 點은 AI가 祝福과 災殃을 함께 지닌 兩날의 劍이라는 事實이다. 災殃을 막지 못한다면 祝福은 아무 意味도 없을 것이다. 最近에는 世界 28個國이 AI 安全頂上會議에 모여 그 危險防止策을 論議하고 첫 共同宣言을 낸 바 있다. 그리고 英國과 美國政府가 AI 安全專擔部處를 新設한 것은 他山之石이다. AI로 인해 없어질 일자리, 그리고 機械的判斷에 依해 자칫하면 勃發할 核戰爭等 여러 가지 危險이 있지만 그와 더불어 憂慮되는 일 中의 하나는 AI에 依해 民主主義가 破壞될 수도 있다는 點이다.

特히 우리 社會는 總選을 앞두고 있다. 유튜브 等의 소셜네트워크서비스(SNS)로 이미 우리는 極端的인 政治的偏向에 빠져 있는데 여기에 AI가 惡用되면 어떤 일이 벌어질까? 한 토막의 목소리와 몇 張의 寫眞만으로도 演說映像을 맘대로 꾸밀 수 있는 世上인데, AI를 利用한 假짜 콘텐츠로 選擧판을 흔들고 有權者를 混亂에 빠뜨리면 어떻게 될까? 數年前金慶洙前知事가 處罰받았던 드루킹 댓글 造作事件과는 比較도 할 수 없는 選擧秩序破壞가 豫測되는 일이다. 民主主義의 基本中基本인 公明正大한 選擧를 威脅하는 일이다.

이런 이슈야말로 政治人들, 特히 國會議員들이 對處해야 할 일인데 우리 汝矣島는 總選에서 票를 더 얻기 위한 포퓰리즘 競爭에만 빠져 있다. 오로지 個人의 榮達과 所屬集團의 權力强化만을 생각하는 國民의 代表들이 매우 아쉽다. 답답한 마음에 챗GPT에 來年 4月의 大韓民國選擧에서 惡意的인 AI 使用을 어떻게 막을 수 있겠냐고 물었더니, 사이버 保安强化, 關聯法律制定 그리고 內部告發者保護等 10가지 方案을 細細히 提示했다. AI는 이렇게 有用하지만 그 惡用은 모두에게 커다란 危險이다. 이를 制御하는 일은 決코 政爭의 對象이 아니다. 늦었지만 이제라도 大韓民國의 民主主義를 위해 與野가 智慧를 모아주길 바란다.

김도연 客員論說委員·太宰未來戰略硏究院理事長

#ai #人工知能 #知的革命 #兩날의 劍 #威脅받는 民主主義