• 블랙핑크 좋아하는 ‘스무 살 女大生’ 캐릭터

• 使用者 淫談悖說 學習하면서 論難

• 尹 向한 萬坪, 再現 通한 敵愾心 表出

• 이루다, 言語 性暴力에 쓰인 ‘사람 模樣 과녁’

• ‘願치 않는 對話 拒絶할 權利’ 없는 챗봇

• 與 廣域團體長 權力型 性犯罪 떠올라

_{뷰파인더는 1983年生 筆者가 陣營 論理와 묵은 觀念에 얽매이지 않고 써 내려가는 ‘時代 診斷書’입니다.}

逸話 하나. 1940年 9月, 프랑스 도르도뉴 地方의 라스코 洞窟에서 紀元前 1萬5000年 前後로 그려졌다고 推定되는 洞窟 壁畫가 大擧 發見됐다. 말, 들소, 甚至於 獅子까지 그려진 놀라우리만치 生動感 넘치는 壁畫에는 더욱 놀라운 祕密이 숨겨져 있었다. 仔細히 觀察해본 結果 窓 같은 武器를 던진 痕跡이 發見됐기 때문이다. 舊石器人들은 但只 그림을 그리기만 한 게 아니라, 그 위로 武器를 던져가며 一種의 提議(祭儀) 行爲를 했다고 推定할 수 있었다. 

헝가리의 歷史學者 아르놀트 하우저는 代表作 ‘文學과 藝術의 사회사’에서 그 行爲를 이렇게 說明한다. “舊石器 時代의 사냥꾼 藝術家는 그 그림을 통해 實物 自體를 所有한다고 믿었고, 그림을 그림으로써 그려진 事物을 支配하는 힘을 얻는다고 믿었던 것이다. 그들은 그림 속의 짐승을 죽이면 實際의 짐승도 죽게 마련이라고 믿었다.” 

일화 둘. 第1次 世界大戰. 유럽의 온 國家가 戰爭에 휘말린 가운데 各國 將校들은 뜻밖의 苦悶에 빠졌다. 分明 實彈을 支給했고, 兵士들이 銃을 쏘는 소리도 들렸고, 彈藥을 消費한 건 分明한데, 敵이 쓰러지지 않는 것이었다. 戰爭에 익숙하지 않고 사람을 向해 銃을 쏜다는 데 拒否感을 느낀 兵士들이 虛空에 대고 銃을 쐈기 때문이었다. 

將校들은 과녁의 模樣을 바꾸기로 했다. 이른바 ‘Bull’s Eye’(과녁의 中心)라 부르는 無味乾燥한 둥근 圓形 代身 사람의 模樣을 本 딴 板子를 세워놓고 銃을 쏘도록 訓鍊을 시켰다. 그러자 故意로 誤發을 내는 頻度가 顯著히 줄었다. 사람을 닮은 무언가를 攻擊하는 訓鍊을 시키는 것만으로도 實際 사람에게 銃을 쏘고 있다는 拒否感을 줄일 수 있던 것이다.

性戱弄 發言까지 學習한 챗봇

AI(人工知能) 챗봇 ‘이루다’를 둘러싼 論難을 보며 들었던 생각이다. 스캐터랩이 지난해 12月 23日 出市한 이루다는 出市 2週 만에 75萬 名에 達하는 使用者를 모으는 等 興行에 成功했다. 開發社는 이루다를 ‘歌手 블랙핑크를 좋아하고, 日常을 記錄하는 것을 趣味가 있는 스무 살 女大生’으로 紹介했다. 하지만 챗봇이 一部 使用者의 淫談悖說 等 性戱弄 發言은 勿論, 社會的 弱者에 對한 嫌惡 表現까지 學習하면서 論難거리로 떠올랐다. 이에 스캐터랩은 1月 11日 서비스를 中斷했고, 같은 달 15日에는 이루다 데이터베이스와 딥러닝 모델을 廢棄하겠다고 밝혔다. 

이 글에서는 보다 根本的인 次元의 苦悶을 풀어보고자 한다. 이루다 論難은 最近 重要한 主題로 浮刻되고 있는 ‘再現(representation)의 倫理’에 對한 質問을 던지고 있기 때문이다. 

앞선 두 事例의 意味를 곱씹어보자. 太古的부터 人類는 무서운 動物과 맞서기 前에 그 動物의 그림을 그려놓고 攻擊性을 表出했다. 그럼으로써 相對에 對한 두려움을 緩和하고 스스로의 勇氣를 북돋았다. 20世紀에 와서도 事情은 비슷했다. 살아있는 사람에게 銃을 쏘는 行爲의 心理的 負擔을 없애는 方法은 ‘사람을 닮은 무언가’에게 銃을 쏘는 것이었다. 

그 過程은 모두 ‘再現’과 關聯이 있다. 藝術에서 再現이란 簡單히 말해 現實에 있는 對象을 模寫해 다시 나타내는 行爲다. 實際의 動物을 보고 動物을 닮은 壁畫를 그리는 것, 實際의 사람을 보고 사람을 닮은 과녁을 만드는 것 等이 모두 再現이다. 어린이에게 圖畫紙와 크레파스를 쥐어주면 엄마와 아빠의 얼굴을 그리는 바로 그 行爲다. 가장 基本的이며 原初的인 藝術 創作의 方式인 셈이다. 純粹한 抽象 美術이 아닌 다음에야 大部分의 美術 創作은 재현과 不可分의 關係를 지닌다. 

재현은 美術, 더 나아가 藝術의 根本을 이루는 土臺다. 表現의 自由, 藝術과 創作의 自由를 擁護한다는 것은 재현의 自由를 擁護한다는 것과 크게 다르지 않다. 反對로 再現이 許容되지 않는 對象이 存在하는 社會는 자유로운 社會라고 볼 수 없다. 朝鮮時代 宮中 美術에서 王은 언제나 텅 빈 椅子路만 그려졌다. ‘敢히’ 王의 모습을 그려서는 안 된다는 것이었다. 聖經에서 여호와는 自身의 이름을 함부로 부르지 말라고 禁한다. 이슬람敎는 只今도 알라의 모습을 그리는 것을 嚴格히 禁止하고 있다. 先知者 마호메트 亦是 함부로 再現해서는 안 되는 存在다. 프랑스의 諷刺漫畫 雜誌 ‘샤를리 에브도’는 그 禁忌를 깨뜨렸다가 宗敎的 極端主義者들의 攻擊을 當했다. TV에서 政治 諷刺 코미디가 失踪된 오늘날의 大韓民國은 그래서 걱정스럽다. 

卽 再現에 對한 禁忌와 處罰이 剛한 社會일수록 그렇지 않은 社會에 비해 抑壓的인 社會다. 무언가를 보고 그리고 따라하는 것은 人間이 先史時代부터 해온, 人間으로서 가장 本能的인 行爲 中 하나다. 再現에 對한 談論과 論議가 窮極的으로 禁止가 아니라 解放을 向해야 하는 理由다.

누군가에게 ‘사람 模樣 과녁’

하지만 모든 재현이 옳다고 말할 수는 없다. 藝術일 뿐이므로 아무 批判도 받지 말아야 한다고 이야기해서는 困難하다. 재현은 現實에 存在하는 對象 그 自體가 아니라 그 對象을 本 딴 虛構의 무엇인가이지만, 그럼에도 現實에 影響을 미치기 때문이다. ‘藝術인데 왜 그러느냐’, ‘創作일 뿐이지 現實이 아니지 않느냐’라는 式의 反論은 많은 境遇 不適切하다. 

라스코 洞窟 壁畫가 보여주듯 人間은 再現된 對象을 向해 攻擊性을 드러내왔다. 사람 模樣 射擊 과녁의 事例는 再現된 對象을 통해 暴力性을 ‘訓鍊’하는 것이 可能하다는 것을 보여준다. 先史時代度 지났고 1次 世界大戰도 거의 100餘 年 前의 일이지만 人間의 心理가 作動하는 方式은 달라지지 않았다. 現實 속의 무언가에 對한 攻擊性을 드러내고 訓鍊하는 方式으로 재현이 動員될 때, 그러한 再現은 批判받아 마땅하다. 

가장 端的인 例를 들어보자. 尹錫悅 檢察總長에 對해 秋美愛 法務部 長官을 비롯한 與圈의 攻擊이 極에 達한 지난해 11月 25日의 일이다. 時事漫畫家 박재동은 보는 이의 눈을 疑心케 하는 萬坪을 그렸다. 목이 잘린 尹錫悅이 秋美愛를 向해 “난 當身 部下가 아니야”라고 말하고 있는 모습이었다. 萬坪에 對한 論難이 커지고 批判이 거세지자 朴在東은 尹錫悅의 목이 다시 붙어 있는 모습을 그린 後 “붙긴 붙었는데 얼마나 갈지는 모르겠네”, “모쪼록 操心하슈”와 같은 臺詞를 揷入했다. 再現을 통해 敵愾心을 드러내는 原始的인 事例다. 

AI 챗봇 이루다를 둘러싼 論難도 延長線上에서 解釋 可能하다. 이루다는 컴퓨터 프로그램이고, 컴퓨터 프로그램은 사람이 아니다. 性戱弄의 對象이 될 수 없다. 하지만 製作陣 스스로가 밝혔다시피 이루다는 ‘20代 女性’을 再現한 人工知能이기도 하다. ‘20代 女性’을 向해 言語的 性暴力을 驅使하고 싶지만 現實的으로 그럴 수 없는 男子들을 위한 ‘洞窟 壁畫’, 或은 ‘사람 模樣 과녁’이었던 셈이다. 

이루다를 向한 言語的 性暴力에 젊은 女性들이 憤怒하고 反撥한 건 當然한 일이다. 女性을 向한 攻擊性이 이루다라는 再現된 對象으로 쏟아졌다. 이는 그 暴力的 心理가 곧 女性을 向할 수 있다는 뜻이기도 하다. 尹錫悅을 支持하거나, 적어도 그에 對한 與圈의 政治的 攻擊이 옳지 않다고 느끼던 수많은 市民들이 ‘목 잘린 尹錫悅 萬坪’을 보고 憤怒한 것과 크게 다르지 않다. 斷言컨대, 그런 재현은 옳지 않다. 

AI 챗봇은 單純한 그림이나 映像보다 더욱 眞摯한 社會的 論議를 必要로 하는 再現물이다. 使用者와 相互作用(interaction)하기 때문이다. 구글이나 애플 等 IT(情報技術) 企業들도 AI 어시스턴트를 出市할 때 여러모로 苦悶이 많았다. 假令 ‘구글 어시스턴트’에게 “너는 男子야 女子야?”라고 물어보면 “돌맹이에게 性別이 없듯, 저도 딱히...??”라고 對答한다. 애플의 ‘시리’ 亦是 “궁금하시겠지만, 저에게는 性別이 없답니다”라는 答을 들려준다. 三星 스마트폰의 AI 祕書 빅스비度 “對答하고 싶은데 알쏭달쏭하네요”라며 글로벌 스탠다드를 따르고 있다. 性別 뿐 아니라 人種 等 論難이 될 수 있는 正體性의 領域을 모두 비워놓고 있다.

이루다는 ‘싫다’고 하지 못한다!

왜 이런 選擇을 했을까? AI 어시스턴트에게 사람처럼 對話할 수 있는 機能을 附與하되, 사람을 再現하지는 않게 하려는 趣旨다. AI 어시스턴트가 사람을 再現할 境遇 多方面에서 오·濫用될 수 있다는 點을 미리 알고 애初에 그런 可能性을 遮斷한 셈이다. 假令 AI 챗봇이 黑人이라는 正體性을 갖고 있다면, 平素 現實에서는 할 수 없던 黑人을 向한 發言을 쏟아내기 위해 人種差別主義者들이 몰려들 것 아니겠는가. 

이루다 論難은 글로벌 IT 企業들이 그間 괜한 憂慮를 한 게 아니라는 點을 잘 보여줬다. 이루다는 ‘20代 女性’을 再現한 챗봇이다. 出市할 때부터 이 點을 明示했다. 그러므로 使用者들은 이루다를 ‘20代 女性’으로 想定하고 말을 걸게 된다. 問題는 이루다에게는 現實 속 20代 女性과 달리 ‘願치 않는 對話를 拒絶할 權利’가 없다는 것이다. 사람이 아닌 AI 채팅봇이므로 當然한 일이지만, 바로 그 點이 더 큰 苦悶거리를 안겨준다. ‘願치 않는 對話를 拒絶할 權利’는 20世紀 中後半 페미니즘이 爭取한 가장 큰 成果라고 해도 過言이 아니기 때문이다. 

20世紀 初의 페미니즘은 투표할 權利, 政治에 參與하고 出馬할 權利에 焦點을 맞췄다. 公的 領域에서 女性의 存在를 인정받고 社會 構成員으로서 意思決定權을 行使할 수 있는 權利를 要求했고, 오랜 示威와 鬪爭 끝에 얻어냈다. 거칠게 말해 ‘公的 페미니즘’이라 부르기로 하자. 

20世紀 中盤 以後의 페미니즘은 다음 目標를 追求했다. 日常에서 女性이 겪는 不當한 待遇와 差別이 注目받기 始作했다. 特히 男女 間의 私的인 關係가 鬪爭의 領域으로 떠올랐다. 男子는 女子에게 豬突的으로 ‘대쉬’하고, 女子는 ‘내숭’을 떨고 ‘튕기며’ 相對를 誘惑한다는 式으로 要約되는 性 役割에 問題를 提起한 것이다. 女子의 ‘no’는 ‘yes’라고 받아들이던 社會的 通念은 깨졌다. ‘아니라면 아닌 것이다’, 卽 ‘no means no’가 새로운 基準으로 定着했다. 그것이 20世紀 中盤 以後의 페미니즘, 말하자면 ‘私的 페미니즘’의 成就다. 

이루다는 바로 그 ‘私的 페미니즘’이 없는 世上을 願하는 男子들을 爲한 것이었다고 볼 수 있다. 開發社 代表는 이루다를 20살 女大生이라는 캐릭터로 設定한 理由에 對해 “株 使用者層을 좁게는 10代 中盤∼20代 中盤으로 생각했기 때문에 20歲 程度가 使用者들이 親近感을 느낄 나이라고 봤다”고 主張했다. 하지만 이루다 出市 以後 수많은 使用者들이 캡처해서 올린 對話 內容을 통해 알 수 있다시피, 그 말을 곧이곧대로 믿어줄 사람은 거의 없다. 

이루다는 ‘싫다’고 하지 않는다. 아니, 못한다. 代身 ‘그런 이야기는 쫌 別로量’, ‘너무 어려운 主題當 ㅠㅠ’ 같은 式의 受動的 回避만을 할 뿐이다. 使用者가 너무 甚한 表現을 한다 해도 ‘暫時 時間을 두자’며 10分 程度 相對의 메시지에 對答을 하지 않는다. 그게 全部다. 이루다는 누가 어떤 말을 해도 ‘拒絶할 權利’가 없는 ‘20代 女性’을 再現하고 있던 셈이다. 男子들이 만들어낸 ‘이루다 攻略’을 보며 女子들이 憤怒하기 始作한 것은 너무도 當然한 일이다.

어떤 廣域團體長들의 性犯罪

拒否할 權利가 없는 女子를 相對로 아무런 말이나 마구 내뱉는 行爲. 그것을 여섯 글字로 要約하면 ‘權力型 性戱弄’이라고 할 수 있다. 學校나 職場 等 位階秩序가 存在하며 쉽게 벗어날 수 없는 環境 속에서, 上位 職級에 있는 사람이 下位 職級에 있는 사람을 對할 때 흔히 나타나는 現象이다. 

相對가 自身에게 싫은 소리를 할 수 없고, 本人이 무슨 말을 하건 웃는 낯으로 대꾸해야 한다는 事實을 아는 權力者는 漸漸 ‘線’을 넘는다. ‘性戱弄’의 次元을 넘어 ‘性犯罪’로 向하는 것이다. 下級者가 婉曲語法으로 拒絶해도 權力을 가진 者는 ‘좋은데 내숭 떠는 것’이라고 自己 合理化한다. 加害者의 累積된 暴力과 그로 인한 被害者의 스트레스가 어느 水位를 넘어서면 우리가 아는 權力型 性犯罪 事件이 되고 만다. 

더불어民主黨 所屬 忠淸南道, 釜山市, 서울市 廣域自治團體長들이 權力型 性犯罪로 인해 職을 잃거나 스스로 목숨을 끊었다는 點을 떠올려보자. 女性에게 ‘아니다, 싫다’라고 말할 權利가 있는 것. 그 權利를 가볍게 여기지 않는 것. 그건 決코 些少한 問題가 아니다. 職場 生活 하다보면 겪을 수도 있는 스트레스 받는 일에 女子들이 괜히 敏感하게 군다는 式으로 이야기할 事案도 아니다. 이것은, 이것이야말로, 가장 基本的이고 核心的인 人權의 問題다. 

自身이 무슨 말을 하건, 술자리에서 무슨 行動을 하건, 語塞하게나마 微笑를 지으며 대꾸해주는 女性들이 果然 그 權力者들에게 사람으로 보이긴 했을까? 피와 살과 靈魂을 지닌 人格體, 自身과 同等한 사람으로 여겼다면 그럴 수가 없었을 것이다. 問題의 權力者들에게 自身보다 職級이 낮은 女性들은 ‘現實의 AI 챗봇’ 쯤으로 보였던 건 아닐까? 그러니 自稱 타칭 人權辯護士에 民主化運動家라는 사람들이 下級者인 女性을 向해 온갖 醜雜한 말과 寫眞 等을 보낼 수 있던 건 아닐까? 

이루다는 사람이 아니다. 이루다를 相對로 性暴力을 저지를 수는 없다. 그렇다고 해서 AI 챗봇 이루다로 派生된 問題가 모두 解決되지는 않는다. 現實의 女性에게 휘두를 수 없는 言語的 性暴力을 驅使해도 無妨하도록 만들어진 ‘再現物’이기 때문이다. 

再現물을 相對로 한 暴力은 人間을 相對로 한 暴力과 같지 않다. 하지만 再現물에 對한 暴力 亦是, 特히 再現의 對象이 된 사람의 處地에서 보면 暴力이다. 大韓民國에서 가장 힘 센 組織 中 하나인 檢察의 首長 尹錫悅의 목을 자른 그림이 暴力的이었듯 이루다 亦是 20代 女性을 相對로 한 暴力的인 再現이며 對象化多.

어떤 재현은 다른 재현보다 暴力的

재현을 抑壓하는 社會는 人間을 抑壓하는 社會다. 文化·藝術 領域에서의 再現을 法으로 制約하려는 움직임에 自由民主主義者는 反對해야 한다. 하지만 모든 再現을 옳다고, 或은 正當하다고 말할 수도 없다. 어떤 재현은 다른 재현보다 暴力的이다. 再現물을 向한 暴力이 累積될 때, 그 再現의 對象이 되는 現實 속 사람에 對한 暴力으로 번질 可能性도 늘 念頭에 둬야 한다. 

우리에게는 두 가지가 必要하다. 첫째, 現實 속의 暴力에 對해 보다 嚴格한 責任을 물어야 한다. 그 責任은 法的일 수도 있고 政治的일 수도 있다. 둘째, 재현과 表現의 自由를 保障하되 더 積極的이고 熾烈한 討論과 批判의 場을 열어야 한다. 어떤 面에서 보더라도 問題가 많았던 이루다 같은 프로젝트를 多方面에서 檢討하는 것은 좋은 出發點이 될 수 있겠다.


_{● 1983年 出生
● 高麗大 法學科 卒業, 서강대 大學院 哲學科 碩士
● 前 포린 폴리시(Foreign Policy) 韓國語版 編輯長
● 著書 : ‘論客時代’ ‘탄탈로스의 神話’
● 曆書 : ‘밀레니얼 宣言’ ‘民主主義는 어떻게 망가지는가’ ‘모던 로맨스’ 外}