•  


AI로 ‘얼굴 없는 殺人者’ 惡플러 잡아낸다 [軌道 밖의 科學]|週刊東亞

週刊東亞 1298

..

AI로 ‘얼굴 없는 殺人者’ 惡플러 잡아낸다 [軌道 밖의 科學]

남의 不幸에 기뻐하는 ‘샤덴프로이데’, 他人 幸福 기쁨으로 느끼는 ‘무디打’로 克服해야

  • 軌道 科學 커뮤니케이터

    nasabolt@gmail.com

    入力 2021-07-22 10:00:01

  • 글字크기 설정 닫기
    인터넷 환경은 날로 발전하지만 악플 대응은 여전히 미비하다. [GETTYIMAGES]

    인터넷 環境은 날로 發展하지만 惡플 對應은 如前히 未備하다. [GETTYIMAGES]

    1999年 인터넷 서비스가 商用化한 지 벌써 22年이 됐다. 速度도 1200倍 以上 빨라졌고, 5G라는 5世代 모바일 네트워크까지 登場했다. 想像조차 할 수 없던 快適한 온라인 世上이 完全히 자리 잡은 셈이다. 이쯤 되면 웬만한 不便함은 全部 사라져야 할 텐데, 다른 形態의 致命的인 苦痛은 如前히 남아 있다. 바로 惡性 댓글이다.

    2018年 情報通信政策硏究院이 公開한 報告書에 따르면 最近 3個月 동안 온라인 揭示板에 댓글을 달거나 글을 作成한 적이 한 番 以上 있다고 應答한 사람은 全體 應答者 9425名 中 8%에 不過했다. 惡性 댓글이 아니라 댓글 自體를 다는 사람이 생각보다 적다는 느낌이 든다. 甚至於 댓글 中 惡性 댓글 比率은 고작 1% 水準이다. 最近 소셜네트워크서비스(SNS)나 動映像 플랫폼 利用이 增加하면서 댓글 作成 頻度도 過去보다 많이 늘었지만, 如前히 댓글을 한 番도 달아본 적 없는 사람이 훨씬 많다.

    問題는 그 1%이다. 多數의 沈默을 대번에 덮어버리는 少數의 惡意的 댓글이 無慈悲하게 弱者를 攻擊한다. 非難의 對象이 된 이들 中 一部는 끝내 스스로 목숨을 끊기도 했다. 都大體 왜 그들은 ‘얼굴 없는 殺人者’를 自處하는 것일까.

    惡性 댓글을 다는 科學的 理由

    악플러 심리에는 남의 불행을 기쁨으로 인식하는 ‘샤덴프로이데’
속성이 있다. [GETTYIMAGES]

    惡플러 心理에는 남의 不幸을 기쁨으로 認識하는 ‘샤덴프로이데’ 屬性이 있다. [GETTYIMAGES]

    大글이라는 서비스는 有用하다. 紀元前 5世紀 무렵 古代 그리스 아테네를 中心으로 始作된 最初 民主主義처럼 國民이 아고라라는 廣場에 모여 意見을 나누는 것은 只今으로선 不可能하다. 그래서 많은 人口와 넓은 領土를 가진 國家는 少數의 意見에 귀 기울일 수 있는 댓글이 훌륭한 裝置가 된다. 問題는 보는 앞에서는 決코 하지 못할 말을 마치 다른 人格이 나타난 것처럼 便하게 적는다는 點이다. 왜 온라인에서는 이러한 行爲가 可能할까.

    英國 行動心理學者 兆 헤밍스(Jo Hemmings)는 惡性 댓글을 作成하는 理由와 關聯해 自身의 見解를 밝혔다. 惡性 댓글 作成者는 大部分 社會에서 제대로 尊重받지 못하기 때문에 均衡을 잃은 對人關係로부터 오는 스트레스를 온라인에서 解消하려 한다. 現實에서는 함부로 攻擊性을 表出하기 어려우니, 自身이 安全하게 保護받을 수 있다고 믿는 假想의 空間에서 內的 劣等感과 憤怒를 마음껏 噴出하는 것이다. 種種 앞서 달린 댓글을 따라 盲目的으로 非難하기도 한다. 一旦 댓글 雰圍氣가 決定되면 大勢에 따라 더 刺戟的이고 精巧하게 攻擊해야 推薦을 많이 받을 수 있기 때문이다. 다른 作成者들로부터 低級한 水準의 人情과 支持를 받으며 有名해진 惡性 댓글을 통해 낮았던 自尊感을 높이고 自身의 價値를 發見한다. 勿論 侮辱이나 名譽毁損 等의 事由로 處罰받게 되면 다시 現實로 돌아온다.



    心理學 用語 가운데 獨逸語로 ‘샤덴프로이데(Schadenfreude)’라는 것이 있다. 남의 不幸이나 苦痛(Schaden)을 보면서 기쁨(Freude)을 느끼는 心理를 나타내는 合成語인데, 韓國語로 簡單히 表現하면 ‘쌤통’이다. 日本 교토대 醫學大學院 硏究陣은 都大體 이런 感情이 왜 생기는지 알아보고자 實驗을 設計했다. 平均 年齡 22歲의 젊은 男女 19名에게 自身이 主人公인 假想의 시나리오를 주고 읽게 했다. 內容에 登場하는 同窓生들은 平凡한 自身과 달리 宏壯히 成功한 人物들로 設定했다. 그 結果 被驗者들이 剛한 嫉妬를 느낄수록 ‘배側 前對象 皮質’李 活性化하는 現象이 觀測됐다. 腦의 이 部分은 不安한 感情이나 苦痛을 느낄 때 反應하는데, 特히 自身이 몸담고 있는 分野에서 親한 親舊가 頭角을 나타냈다는 이야기를 들었을 때 더 剛한 變化가 생겼다. 여기서 ‘四寸이 땅을 사면 배가 아프다’는 俗談도 꽤 科學的이라는 것을 確認할 수 있다.

    反對로 同窓生들이 不幸한 일을 當했다는 消息을 들었을 때는 기쁨과 滿足感을 發生시키는 補償回路人 ‘腹側 線條體’가 活潑하게 活動했다. 嫉妬의 對象이 不幸을 겪을 때 우리 腦는 기쁘다는 느낌을 받는다는 것이다. 재미있는 事實은 自身과 別로 關聯 없는 分野에 從事하거나 잘 모르는 對象이 겪는 不幸에는 別 反應이 없었다는 點이다. 匿名의 惡性 댓글 作成者가 알고 보니 가까운 知人인 境遇도 그래서 많다. 俳優나 歌手 같은 有名人의 境遇 수많은 大衆이 그들을 親密하게 느끼기 때문에 惡性 댓글에 同調하거나 默認하는 事例가 많다는 結論을 내릴 수도 있겠다.

    내 생각만 眞實이라 여기는 ‘同一視’

    精神分析學에 ‘同一視(identification)’라는 用語가 있다. 好感이 있거나 尊敬하는 相對의 行動, 價値觀을 自己 것으로 받아들이고 닮아가는 過程을 말하는데, 肯定的 側面에 對한 여러 硏究가 進行되고 있다. 비슷한 用語로 內面의 생각과 外部 世界를 區分하지 않는 精神 狀態를 뜻하는 ‘精神的 同等(psychic equivalence)’이 있는데, 앞선 單語와 類似한 느낌이지만 內容은 全혀 다르다. 他人의 行動을 볼 때 相對의 意圖와 相關없이 오직 自己 생각만 眞實이라고 斷定해버리는 것이다. 이것이 좋지 않은 方向으로 흘러가면 周圍 사람의 모든 行動을 自己中心的으로 解釋하게 되고, 자칫 社會生活에 어려움이 생길 수도 있다.

    專門家들은 惡性 댓글을 남기는 사람들의 心理가 精神的 同等 狀態에 있을지도 모른다고 分析한다. 記事나 SNS像의 寫眞과 文章 몇 個로 對象의 숨겨진 目的을 쉽게 推測하고, 웃으며 넘어갈 수 있는 行動에 過度한 意味를 附與하며 激忿한다. 甚至於 自身의 內面에만 集中하느라 相對方에게 얼마나 큰 傷處를 줬는지는 바로 잊어버린다. 스스로 判斷한 相對의 意圖는 事實이 아니라 臆測일 수 있다. 조금만 努力하면 異常하게만 보이던 他人의 行動들이 그럴 수도 있겠다는 여유로움으로 품어질 것이다. 惡性 大글이라는 날카로운 칼날 代身 부드러운 손길이 온라인上에 가득하다면 世上의 모습은 어떻게 바뀔까.

    한때 인터넷 實名制를 導入해 惡性 댓글을 規制해야 한다는 목소리가 크던 時節이 있었다. 하지만 表現의 自由 侵害나 아이디(ID) 盜用 被害를 言及하지 않더라도, 于先 惡性 댓글이 줄어드는 效果가 全혀 體感되지 않았다. 實名 確認 節次를 마쳐야 댓글을 달 수 있게 한 플랫폼에서도 言論에 오르내릴 만큼 慘酷한 惡性 댓글이 亂舞했다. 實名을 내밀도록 하는 것만으로는 現實의 禮儀와 道德性을 갖추게 할 수 없었다. 惡性 댓글을 不法 情報에 包含해 누구든 서비스 提供者에게 削除를 要求할 수 있게 한 法案도 나왔다. 아예 原初的 解決法으로 댓글을 쓸 수 있는 空間을 없애자는 意見도 있다. 交通事故가 일어나니 自動車를 禁止하자는 뜻인데, 온라인 疏通 空間의 順機能도 無視할 수 없다. 專門家들은 惡性 댓글을 줄일 수 있는 科學的 아이디어를 苦悶하기 始作했다.

    人工知能으로 惡性 댓글 檢閱 可能

    인공지능(AI)으로 악성 댓글을
검열하는 기능이 생겨났다. [GETTYIMAGES]

    人工知能(AI)으로 惡性 댓글을 檢閱하는 機能이 생겨났다. [GETTYIMAGES]

    누군가 惡性 댓글을 取消하거나 純化된 表現을 使用하도록 案內하면 어떨까. 모니터링을 하는 것만으로도 宏壯한 人力과 豫算이 投入되겠지만, 人工知能이 그 役割을 한다면 이야기는 달라진다. 作成者가 否定的 內容을 적어서 올린다면 揭示 直前 人工知能이 먼저 읽어보고 判斷해 問題가 있다는 事實을 알린다. 비슷한 方式으로 채팅이나 댓글을 필터링하는 技術은 꽤 오랫동안 있었지만, 高度化된 人工知能이 팔을 걷어붙이고 參與해 끊임없이 學習한 結果 縮約語나 口語體, 에둘러 表現하는 形態의 惡性 댓글도 이젠 探知가 可能해졌다.

    포털사이트는 辱說이나 卑俗語를 다른 記號로 바꿔주는 機能을 導入했고, 惡性 댓글이나 無分別한 誹謗은 알아서 숨긴다. 美國 時事週刊誌 ‘타임’ 表紙를 裝飾한 10代 科學者이자 發明家 기탄잘리 라오(Gitanjali Rao)도 人工知能 技術을 活用해 사이버 괴롭힘을 早期에 感知하는 서비스를 開發했다.

    國內에서도 비슷한 苦悶을 해온 企業 德分에 2009年부터 ‘소셜댓글’이라는 서비스가 最初로 始作됐다. 소셜댓글은 SNS와 聯動해 댓글을 다는 플랫폼으로, 이를 活用하면 會員 加入 없이 댓글을 作成할 수 있으며, 自身의 댓글과 反應을 모아 管理하고 分析하는 것이 可能하다. 特히 作成한 댓글이 現實에 存在하는 知人들과 連結되기 때문에 좀 더 責任感을 갖고 신중하게 댓글을 쓰게 된다는 長點이 있다. 온라인上에서 匿名性을 維持하면서도 댓글과 社會的 關係를 連結해 어떤 狀況에서도 最小限의 品位를 갖추게 만든다.

    이제 惡性 댓글은 知能的으로 進化하기도 한다. 法的으로 問題가 될 수 있는 辱說이나 人身攻擊을 最大限 걸러내고, 客觀的인 意見을 表明하는 척하며 內面의 本質的 弱點을 攻擊한다. 온라인上에서 表現의 自由는 누구에게나 있기에 如前히 不足한 이 글에도 惡性 댓글이 充分히 달릴 수 있다. 하지만 相對를 눈앞에 두고 할 수 없는 말은 匿名의 空間에서도 하지 않는 것이 옳다. 샤덴프로이데와 正確히 反對되는 意味의 佛敎 用語로 ‘무디打(Mudita)’라는 것이 있다. 他人의 幸福을 보고 交感하는 기쁨을 말한다. 善良한 99%의 사람이 沈默을 깨고 번거롭겠지만 善한 댓글을 熱心히 作成한다면 평화롭고 自發的인 方式으로 惡性 댓글을 자연스럽게 도태시킬 수도 있다. 오늘부터 모두의 所重한 空間이 憤怒와 슬픔으로 가득 차버리지 않도록 함께 努力하자.

    軌道는… 연세대 天文宇宙學科 學部 및 大學院을 卒業하고 韓國天文硏究院 宇宙監視센터와 연세대 宇宙飛行制御硏究室에서 勤務했다. ‘軌道’라는 藝名으로 팟캐스트 ‘課長窓’, 유튜브 ‘안될과학’과 ‘투머치사이언스’를 進行 中이며, 著書로는 ‘軌道의 科學 虛勢’가 있다.



    댓글 0
    닫기
    - "漢字路" 한글한자자동변환 서비스는 교육부 고전문헌국역지원사업의 지원으로 구축되었습니다.
    - "漢字路" 한글한자자동변환 서비스는 전통문화연구회 "울산대학교한국어처리연구실 옥철영(IT융합전공)교수팀"에서 개발한 한글한자자동변환기를 바탕하여 지속적으로 공동 연구 개발하고 있는 서비스입니다.
    - 현재 고유명사(인명, 지명등)을 비롯한 여러 변환오류가 있으며 이를 해결하고자 많은 연구 개발을 진행하고자 하고 있습니다. 이를 인지하시고 다른 곳에서 인용시 한자 변환 결과를 한번 더 검토하시고 사용해 주시기 바랍니다.
    - 변환오류 및 건의,문의사항은 juntong@juntong.or.kr로 메일로 보내주시면 감사하겠습니다. .
    Copyright ⓒ 2020 By '전통문화연구회(傳統文化硏究會)' All Rights reserved.
     한국   대만   중국   일본