온라인 嫌惡 發言 은 人種 , 宗敎 , 民族性 , 性的 志向 , 障礙 또는 性別 에 기초하여 사람 또는 集團을 攻擊할 目的으로 온라인에서 發生하는 發言의 한 類型이다. ^[1] 온라인 嫌惡 發言은 쉽게 定義되지 않지만, 그것이 提供하는 卑下 또는 非人間化 機能에 依해 認識될 수 있다. ^{[2] [3]}

市民的, 政治的 權利에 關한 國際規約 (ICCPR)과 같은 多者間 條約들은 그것의 輪廓을 定義하려고 努力해왔다. 多重 利害關係者 프로세스(예: 라바트 行動 計劃)는 더 많은 明確性을 가져오려고 努力해왔고 憎惡 메시지를 識別하기 위한 메커니즘을 提案했다. 國家 및 地域 機關들은 地域 傳統 에 더 뿌리를 둔 그 用語에 對한 理解를 增進하려고 努力해왔다. ^[3]

인터넷 의 速度와 到達 範圍는 假想 世界 에서 各國 政府가 國家 立法을 施行하는 것을 어렵게 만든다. 소셜 미디어는 公的 表現을 위한 私的인 空間이며, 이는 規制 當局을 어렵게 한다. 이러한 空間을 所有한 一部 企業들은 온라인 嫌惡 發言을 다루는 것에 더 對應하게 되었다. ^[3]

正義 [ 編輯 ]

偏頗的 發言 [ 編輯 ]

嫌惡表現의 槪念은 表現의 自由 와 個人·集團· 少數卷 의 衝突, 尊嚴 · 自由 · 平等 의 槪念과 맞닿아 있다. 쉽게 規定하지 않고 그 機能에 依해 인정받을 수 있다. ^[3]

國內 및 國際法에서 嫌惡 發言은 對象의 社會的 또는 人口 統計學的 正體性에 기초하여 差別 , 敵對感, 急進化, 言語 및 物理的 暴力 行爲를 包含하여 被害에 對한 煽動을 擁護하는 表現을 意味한다. 嫌惡 發言은 暴力的인 行爲를 擁護, 威脅 또는 奬勵하는 發言을 包含할 수 있지만 이에 制限되지는 않는다. 이 槪念은 標的 差別, 敵對感 및 暴力的 攻擊을 부채질할 수 있다는 假定 下에 偏見과 偏狹함의 風土를 造成하는 表現으로도 擴張될 수 있다. 政治 選擧 와 같은 重要한 時期에 嫌惡 發言의 槪念은 造作되기 쉬울 수 있다. 嫌惡 發言을 煽動한다는 非難은 靜寂들 사이에서 去來되거나 反對 및 批判 을 抑制하기 위해 權力者들에 依해 使用될 수 있다. 嫌惡 發言(텍스트, 이미지 또는 사운드를 통해 傳達되는 것)은 그것이 提供하는 機能을 저하시키거나 非人間化 하는 機能을 통해 近似値로 識別될 수 있다. ^{[2] [3]}

法學者이자 政治 理論街人 Jeremy Waldron은 嫌惡 表現은 恒常 두 가지 메시지를 包含한다고 主張한다. 첫째, 外部 集團의 構成員들이 歡迎받지 못하거나 두려움을 느끼도록 하는 것. 둘째, 內部 集團의 構成員들이 그들의 嫌惡스러운 믿음이 合法的이라고 느끼도록 하는 것. ^[4]

온라인 嫌惡表現의 特性 [ 編輯 ]

UN 人權理事會 少數者 問題 特別報告官이 온라인에서 目擊한 嫌惡 發言의 擴散은 새로운 挑戰을 提起한다. ^[5] 嫌惡 發言을 防止하기 위해 만들어진 소셜 네트워킹 플랫폼 과 團體들은 온라인에서 流布되는 嫌惡 메시지가 漸漸 더 普遍化되고 있다는 것을 認識하고 適切한 對應을 開發하기 위해 前例 없는 關心을 이끌어냈다. ^[6] 全 世界的으로 온라인에서 嫌惡 發言 事例를 蒐集하는 웹 基盤 애플리케이션인 HateBase에 따르면, 嫌惡 發言 事例의 大部分은 民族性 과 國籍 에 基盤한 個人을 對象으로 하지만, 宗敎 와 社會 階層 에 焦點을 맞춘 嫌惡 煽動 또한 增加하고 있다. ^[7]

온라인 嫌惡 表現은 오프라인에서 發見되는 類似한 表現들과 本質的으로 다르지 않지만, 온라인 콘텐츠와 그 規制에 固有한 獨特한 挑戰들이 있다. 그러한 挑戰들은 그것의 永久性, 巡廻性, 匿名性 그리고 複雜한 管轄權 間 特性과 關聯이 있다.

永續性 [ 編輯 ]

嫌惡 發言은 여러 플랫폼에 걸쳐 다른 形式으로 오랫동안 온라인에 머물 수 있으며, 이는 反復的으로 連結될 수 있다. 온라인 嫌惡 防止 硏究所의 CEO인 Andre Oboler는 "콘텐츠가 利用 可能한 狀態로 오래 남아 있을수록, 그것은 被害者들에게 더 많은 被害를 입히고 加害者들에게 힘을 실어줄 수 있다. 萬若 여러분이 初期 段階에서 콘텐츠를 除去한다면, 여러분은 露出을 制限할 수 있다. 이것은 쓰레기를 치우는 것과 같이, 그것은 사람들이 쓰레기를 버리는 것을 막지 않지만, 萬若 여러분이 問題를 돌보지 않는다면 그것은 但只 쌓이고 더 惡化될 것이다"라고 말했다. ^[8] 流行하는 主題들을 中心으로 組織된 트위터 의 對話들은 嫌惡 메시지의 빠르고 廣範圍한 擴散을 促進할 수 있지만, ^[9] 그것들은 또한 影響力 있는 演士들이 메시지를 避하고 暴力을 煽動하는 人氣 있는 스레드를 끝낼 수 있는 機會를 提供한다. 反對로, 페이스북 은 여러 스레드가 竝列로 繼續되고 눈에 띄지 않게 할 수 있다. 特定 個人과 集團을 不快하게 하고, 差別하고, 嘲弄하는 더 오래 持續되는 空間을 만든다. ^[3]

匿名性 [ 編輯 ]

匿名性 은 또한 온라인 嫌惡 發言을 다루는 것에 挑戰을 提示할 수 있다. 인터넷 討論은 匿名이거나 假名 일 수 있는데, 이것은 사람들이 그들의 意見을 表現하는 것이 더 安全하다고 느끼도록 만들 수 있지만 破壞的인 行動을 쉽게 加速化할 수 있다. ^[10] The Sentinel Project의 運營 責任者인 Drew Boyd는 다음과 같이 말했다. "인터넷은 사람들이 그들이 發見되지 않을 것이라고 생각하기 때문에 끔찍한 말을 할 수 있는 能力을 個人들에게 附與한다. 사람들이 말하는 것의 結果를 處理해야 할 때 實際 生活보다 嫌惡를 훨씬 더 便安하게 느끼기 때문에 이것은 온라인 嫌惡 發言을 매우 獨特하게 만드는 것이다." ^[11] 中國 과 韓國 은 소셜 미디어 를 위한 失明 政策을 施行한다. 페이스북 , 링크드인 , 그리고 쿼라 는 온라인 嫌惡 發言에 對한 더 많은 統制를 갖기 위해 實名制를 活性化하려고 努力해왔다. 그러한 措置는 私生活 에 對한 權利와 自由로운 表現과의 相互作用을 侵害하는 것으로 보여지기 때문에 깊은 論爭이 되어왔다.

인터넷 "트롤" 은 온라인 嫌惡 發言의 많은 事例를 揭示하는데, 이들은 一般的으로 衝擊的이고 低俗하며 明白하게 否定的인 反應을 誘發하기 위한 意圖를 가진 全體的인 事實이 아닌 콘텐츠를 揭示하는 假名 使用者이며, 이들은 同一한 意見을 共有하는 境遇 讀者에게 影響을 미치거나 그들의 信念으로 끌어들이기 위한 것일 수도 있다. ^[12] 또한 소셜 미디어는 急進的 이고 極端的 인 政治 또는 宗敎 集團이 反體制的이고 反政治的인 正確性의 메시지를 퍼뜨리고 人種差別的 이고 半 페미니스트 이고 同性愛 嫌惡的 이며 트랜스포비아적 人 信念과 理念을 促進하기 위해 協力할 수 있는 플랫폼을 提供했다. ^[13] 完全 匿名의 온라인 커뮤니케이션은 使用者가 쉽게 識別할 수 없도록 高度의 技術的 措置를 使用해야 하기 때문에 드문 境遇이다. ^[3]

人工知能 [ 編輯 ]

페이스북 과 같은 一部 技術 會社들은 嫌惡 發言을 監視하기 위해 人工知能(AI) 시스템을 使用한다. ^[14] 그러나, 그 시스템들은 人間이 가지고 있는 判斷 技術을 缺如하고 있기 때문에, 人工知能은 嫌惡 發言을 監視하는 效果的인 方法이 아닐 수도 있다. ^[15] 例를 들어, 使用者는 嫌惡 發言으로 分類되거나 커뮤니티 指針을 違反하는 것을 揭示하거나 댓글을 달 수 있지만, 目標 單語의 綴字가 틀리거나 一部 글字가 記號로 代替되면, 人工知能 시스템은 그것을 認識하지 못한다. 이러한 弱點은 코로나19 동안 "백신" 代身 "바크新"의 使用과 같은 意圖的인 잘못된 綴字를 使用하여 檢閱 알고리즘을 回避하려는 試圖의 擴散으로 이어졌다. ^[16] 그러므로, 人間은 嫌惡 發言을 監視하는 人工知能 시스템을 繼續 監視해야 한다. 卽, 作業의 마지막 10% 또는 1%가 完了하기 가장 어렵다는 것을 意味한다.

參照 [ 編輯 ]