Article at a Glance
우리는 플랫폼이 선보인 서비스를 穩全히 統制할 수 있다고 믿는 ‘統制의 幻想’에 빠지기 쉽다. 그러나 實狀은 서비스가 提供한 選擇肢 中에서 하나를 고른 것에 不過할지도 모른다. 使用者가 不快感이 들어 서비스에서 離脫하려 해도 플랫폼이 이에 關한 使用者 經驗을 複雜하고 까다롭게 設定해 쉽지 않다. 플랫폼이 使用者의 情報를 蒐集하고 活用하는 것에 對한 倫理的 合意가 이뤄져야 한다.
設計者는 우리를 위해 世上을 創造했다. 그 속에서 우리는 自由意志를 가지고 먹고 싶은 것, 가고 싶은 곳, 하고 싶은 것을 選擇하며 산다. 그리고 選擇에 對한 責任은 우리에게 있기에 어리석은 選擇을 하지 않도록 注意를 기울인다.
어느 날, 누군가 當身에게 다가와 귀띔해준다. “只今껏 當身의 自由意志로 모든 걸 選擇해 왔다고 생각하겠지만 事實 그 選擇들은 設計者에 依해 豫定된 것이었다!” 이 말을 들은 當身은 당황스럽고 혼란스럽다. 내가 그동안 苦悶하고 選擇해온 것들이 누군가가 豫定해 놓은 것이었다니!
當身이 只今 읽고 있는 이 글, 오늘 들었던 노래, 어젯밤에 봤던 映畫, 이番 週에 놀러 갔던 곳, 그리고 只今까지 했던 수많은 選擇. 正말 當身의 意志로 穩全히 選擇한 걸까?
1
或是나 映畫 ‘트루먼쇼’에서처럼 徹底하고 緻密하게 設計된 世上 속에서 살고 있는 것은 아닐까.
내게 일어나는 일들은 偶然일까, 必然일까
| 트루먼은 평화롭고 조용한 마을에 살고 있다. 여느 때와 다름없는 出勤길, 티 없이 맑은 하늘로부터 怪物體가 떨어졌다. 놀란 트루먼이 다가가 살펴보니 ‘큰개자리 시리우스 별’이라고 적혀 있는 巨大한 照明 機器였다. 트루먼은 하늘을 쳐다보며 뭔가 異常하다는 생각이 든다. 그러나 暫時 後 自動車 라디오에서 “이 地域 上空을 날던 飛行機에서 部品이 떨어지는 事故가 있었다”는 뉴스가 나오고, 트루먼은 疑心을 거두었다.
|
트루먼의 日常을 몰래 觀察하는 TV쇼의 돔 세트場에서 照明 機器 墜落事故가 났다. 모든 것이 ‘쇼’였다는 事實을 트루먼이 알아차리지 못하도록 設計者는 迅速히 假짜 뉴스로 事故를 撫摩했다. 以後에도 비 내리는 裝置가 誤作動되고, 쇼 製作陣이 나누는 對話가 트루먼의 라디오에 잘못 잡히는 等 크고 작은 事故들이 이어진다. 트루먼은 뭔가 異常하다고 느끼지만 그 實體를 좀처럼 把握하기 힘들다.
트루먼이 眞實을 쉽게 알아차리기 힘든 理由는 그가 갖고 있는 情報의 量이 턱없이 不足했기 때문이다. 그에 反해 設計者는 트루먼이 태어날 때부터 지켜봐 왔고, 그의 모든 生活 패턴을 꿰뚫어 볼 수 있다. 設計者는 이 쇼의 全體 틀을 創造한 사람이고, 모든 것이 그의 指示에 依해 돌아간다. 하지만 트루먼은 設計者의 存在조차 모르고 있다. 自身에게 일어나는 一連의 事件들이 왜 일어나는지 알지 못하기 때문에 그저 모든 게 偶然이라고 생각하고 받아들인다.
우리의 SNS 피드에는 뉴스, 映像, 廣告, 이름 모를 他人의 글 等 하루에도 수많은 콘텐츠가 올라온다. 漠然히 우리에게 맞춰진 推薦 콘텐츠라는 것만 推測할 뿐 그게 어떤 根據로, 왜 自身에게 보이는지 正確히는 모른다. 서비스는 우리의 이름과 나이, 性別, 사는 곳, 趣向과 性格 等 우리에 對해 속속들이 알고 있지만 우리는 서비스의 알고리즘을 알지 못하기 때문에 그저 받아들이는 수밖에 없다.
設計者와 使用者 間 생기는 情報의 隔差, 卽 ‘情報의 非對稱(information asymmetry)’은 힘의 不均衡을 招來한다. 많은 것이 情報를 많이 가진 쪽에 유리하게 作用되고 적게 가진 쪽에는 不利하게 作用되는 ‘不均衡을 이루는 힘’이다. 그래서 피드에 非合理的이거나 不快한 情報가 包含돼 있더라도 우리에겐 알고리즘에 關한 情報가 不足하기 때문에 結局 트루먼처럼 束手無策일 수밖에 없다.
내 選擇은 自由意志에서 비롯된 것일까
| 트루먼은 아침에 이웃들과 정답게 人事를 나누고, 出勤길에 街販臺를 들러 新聞을 산다. 職場에서는 上司 몰래 旅行 計劃을 세우는 等 딴짓을 하기도 하고, 退勤 後에는 親舊와 麥酒를 마시며 속 깊은 이야기를 나눈다. 週末에는 庭園 잔디를 깎는 等 밀린 집안일을 하고, 밤에는 가끔 아내 몰래 옛사랑을 떠올리며 그리워하기도 한다.
|
트루먼의 삶은 平凡하면서도 자유로운 日常의 連續이었다. 하지만 밖에서 지켜보는 우리는 안다. 그의 삶이 平凡하지도, 마냥 자유롭지도 않다는 것을. 그는 巨大한 映畫 세트場에서 一擧手一投足을 監視받는 統制된 삶을 살고 있다. 親切해 보이는 트루먼의 이웃들, 트루먼이 믿고 있던 아내와 親舊, 甚至於 어머니까지도 모두 이 쇼를 위해 섭외된 俳優들이었다. 트루먼을 둘러싼 모든 狀況과 環境은 設計者가 自身의 目的에 맞게 디자인하고 設計한 것이었다.
트루먼의 생각과 選擇은 大部分 設計者가 짜 놓은 시나리오와 틀 안에 있었다. 이 事實을 모르는 트루먼은 每 狀況에서 스스로 모든 것을 決定하고 統制하고 있다 믿었을 것이다. 바로 ‘統制의 幻想(Illusion of Control)’이다.
2
統制의 幻想은 사람들이 特定 狀況을 自身 스스로 穩全히 制御한다고 믿는 現象이다. 例를 들어, 슬롯머신 게임에서 自身이 레버를 어떻게 내리느냐가 結果에 큰 影響을 줄 것이라고 믿는 것이나 人形 뽑기 機械에서 人形을 뽑았을 때 自身이 操縱을 잘했기 때문이라고 錯覺하는 것 等이 그 例이다.
3
그래서 設計者 立場에서는 게임 플레이어에게 統制의 幻想을 갖도록 設計하면 플레이어는 興味와 自信感을 갖게 되고, 게임을 持續的으로 하게 만들 수 있다.
4
많은 온라인 서비스에서도 ‘統制의 幻想’이 活用되고 있다. 使用者는 피드를 보고, 廣告를 보고, 檢索을 해보고, 檢索 結果를 클릭해서 商品을 確認하고, 問議를 하고 購買를 하게 된다. 使用者들은 自身이 主導的으로 쇼핑하고 있다고 생각하지만 事實은 서비스의 推薦 피드와 廣告, 서비스가 내놓은 檢索 結果들, 서비스에서 提供하는 對話型 챗봇, 商品 리뷰 等에 依存하고 있다. 이 過程에서 서비스 알고리즘이 隱密히 介入하는데 서비스가 보여주고 싶은 것은 優先的으로 보여주고, 보여주기 싫은 것은 감추게 된다. 結局 使用者는 自身이 穩全히 무언가를 選擇했다고 믿지만 實狀은 서비스가 提供한 選擇肢 中에서 選擇한 것일 뿐 서비스가 設計한 큰 그림 안에서 決定한 셈이 된다.
어떻게 隱密히 統制당하고 있는가
| 트루먼은 自身의 삶에서 原因 모를 답답함을 느꼈고 結局 마을을 떠나기로 한다. 可能한 멀리 가기 위해 飛行機 票를 사러 旅行社에 갔지만 번개 맞는 飛行機 포스터가 걸려 있어 트루먼은 섬뜩함을 느낀다. 飛行機 票를 求하지 못해 市外버스를 탔지만 버스는 出發도 前에 갑자기 故障. 하는 수 없이 自動車를 타고 어디든 떠나보려 하지만 갑자기 나타난 車들 때문에 길이 막힌다. 또 멀쩡하던 道路에서 갑자기 火災가 發生하고, 放射能 流出 事故가 났다면서 警察들이 道路를 統制하기도 한다.
|
트루먼이 마을을 떠나려고 할 때 겪었던 웃지 못할 狀況들은 온라인 속 우리에게도 비슷하게 펼쳐진다. 서비스를 解止할 때 解止 經路를 어렵게 꼬아 놓기도 하고, 생각지도 못한 곳에 解止 버튼을 配置하기도 한다. 버튼 文句를 헷갈리게 적어 놓기도 하고, 아예 버튼처럼 보이지 않게 만들기도 한다. 解止 案內가 나와 있는 페이지를 찾아내더라도 모바일이 아닌 PC에서 하라고 하거나, 平日 勤務時間에 顧客센터로 電話하라며 우리에게 挫折感을 안긴다.
解止 버튼을 겨우 찾아내 누르면 ‘正말 解止할 것인지’ 묻는 創業 窓을 反復的으로 띄우거나 ‘只今 解止하면 다시 加入할 수 없다’라고 半쯤 脅迫하는 모습 亦是 트루먼이 마을을 빠져나갈 때 겪었던 해프닝들과 相當히 類似하다. (그림 2)
이 같은 디자인 設計는 使用者가 로그아웃하는 境遇, 廣告나 約款 同意 設定을 바꾸는 境遇, 會員 脫退를 하고 싶은 境遇 等에도 活用된다. 서비스 立場에서는 使用者의 이런 行動이 그들의 利益에 反하는 行動이기 때문에 使用者로 하여금 抛棄하게끔 만드는 戰略들이다. 그리고 대놓고 어렵게 만들면 指彈을 받을 수 있기 때문에 解止를 못하는 責任 素材가 서비스 側에 있는지, 아니면 使用者의 게으름이나 能力 不足 때문인지 曖昧하게 보이도록 精巧하게 디자인한다.
巧妙하고 緻密한 統制는 어떻게 可能한가
| 設計者가 트루먼을 緻密하게 統制할 수 있었던 理由는 그의 一擧手一投足을 오랫동안 지켜봤기 때문이다. 트루먼이 生活하는 모든 곳에는 몰래카메라가 숨겨져 있었고, 化粧室과 寢室에서의 모습까지 撮影됐다. 트루먼이 거울을 보면서 말하는 혼잣말, 사람들과 나누는 對話, 特定 狀況에 나오는 行動 等이 詳細하게 觀察됨으로써 트루먼이 어떤 것을 좋아하고, 싫어하고, 무서워하는지 等을 把握할 수 있었다.
|
映畫 속 트루먼이 가여운 理由는 ‘트루먼 本人만 이 狀況을 모르고 있다는 것’이다. 自身의 一擧手一投足이 撮影되고 公開되는 것을 願하지도 同意한 적도 없는 狀況에서 마치 動物園에서 태어난 動物처럼 트루먼은 그곳이 世上의 全部인 양 생각하며 살았다.
우리의 現 狀況 亦是 程度의 差異는 있겠지만 비슷한 面이 있다. 例를 들어, 핸드폰, AI 스피커, 스마트홈 機器들이 ‘非活性化’된 狀態에서도 카메라, 마이크 및 各種 센서 等을 통해 우리 日常의 모습과 對話 內容, 各種 데이터를 蒐集하고 있다는 뉴스와 아티클들이 持續的으로 報告되고 있다."
5
" 2022年 컨슈머리포트(Consumer Reports)에서도 빅테크 企業들이 正確히 使用者의 어떤 情報를 蒐集하고, 어떻게 活用하고 있는지 아직 充分히 밝혀지지 않았다면서 潛在的 危險性에 對해 警告했다.
6
甚至於 使用者 情報 蒐集을 ‘拒否 설정’한 狀態에서도 追跡이 繼續돼 個人情報保護政策의 實效性에 疑問이 提起되기도 했다.
7
그리고 最近인 2023年 末까지 國內 企業에서도 顧客 情報를 無斷으로 蒐集한 事例들이 持續的으로 確認되고 있다.
8
筆者 亦是 이 이슈와 關聯한 經驗을 數次例 한 적이 있다. 지난 한 해 硏究年을 맞아 美國에 머물고 있는 동안 知人과 韓國에서 癡呆를 앓고 있는 家族에 對해 電話로 한두 番 이야기를 나눈 적이 있었다. 얼마 뒤 筆者의 SNS 피드에 平素에 본적 없던 ‘癡呆’ 關聯 廣告가 連달아 떠서 驚愕했던 적이 있다. 그뿐만 아니라 아내에게 ‘理髮을 못해 머리가 너무 길어져서 制御가 안된다’ ‘나도 ADHD가 아닐까’ 等에 對한 푸념 섞인 對話를 나눈 적이 있었는데 亦是나 며칠 뒤 筆者의 피드에 [그림 1]과 같이 關聯 콘텐츠가 뜨는 것을 經驗했다.
마침 궁금했던 情報이니 반가워야 하는 걸까. 서비스의 趣向 狙擊에 感歎해야 하는 걸까. 기막히게 推薦해준 콘텐츠를 보면서 神奇함과 더불어 섬뜩함과 不快感이 뒤섞인 氣分이 든다. 내가 모르는 사이에 正말 마이크와 카메라로 내 私的 情報가 蒐集되고 있는 것은 아닐까. 都大體 어느 程度까지, 어떻게 蒐集되고 있는 것인지 알 수 없는 일이다. 이 程度의 蒐集力이라면 使用者의 一擧手一投足에 對해 把握할 수 있을 것이고, 目的과 狀況에 맞게 콘텐츠를 띄워 使用者의 생각을 誘導하고 制御하는 것이 어렵지 않을 것이다.
設計者는 우리를 어떻게 바라보고 있을까
한 視聽者가 設計者에게 ‘當身이 무슨 權利로 트루먼을 아기 때부터 데려다가 이렇게 구경거리로 만드냐’고 抗議性 質問을 하자, 그는 이렇게 答했다.
“트루먼이 사는 곳은 天國입니다. 그리고 우리가 사는 곳은 地獄이죠. 나는 트루먼에게 특별한 삶의 機會를 줬습니다. 트루먼은 언제든 마음먹으면 떠날 수 있습니다. 그리고 트루먼이 眞實을 알고자 한다면 그걸 막지 못하지요. 하지만 트루먼은 試圖하지 않았고, 自身이 있는 곳에 滿足하며 살고 있습니다.”
|
設計者는 트루먼이 사는 世界가 理想的인 世界라 主張한다. 두려울 것 없는 安全하고 평화로운 樂園 같은 삶을 트루먼에게 膳賜했다는 것이다. 實際로 數千 臺의 카메라가 찍고 있는 狀況이니 트루먼이 不意의 事故를 當하거나 누군가로부터 해를 입을 確率은 적을 것이다. 그러나 그 裏面에 있는 倫理的 問題에 對해서는 徹底히 外面한다.
設計者는 트루먼을 對等한 存在가 아닌 도구화해서 바라본다.
9
그의 눈에 트루먼은 商品性이 높은 對象이고, 그를 아끼지만 마치 優越的 存在가 被造物에게 하듯 對한다. 비슷하게도 온라인 서비스의 設計者 亦是 使用者를 도구화해서 바라본다. 使用者의 데이터는 그들의 시스템에 莫大한 利益을 가져다주는 商品性 높은 道具이기 때문이다.
使用者 데이터를 無分別하게 蒐集하는 것에 對해 서비스 側은 ‘모든 게 使用者를 위한 것’이라고 말한다. 使用者의 便宜, 使用者의 經驗, 使用者의 幸福을 위한 것이라고 標榜하고 내세우지만 結局 트루먼쇼의 設計者 크리스토프가 했던 合理化와 正當化는 아닌지, 그리고 眞正 우리를 위한 것인지에 對해서는 論議와 合意가 隨伴돼야 한다.
무엇보다 트루먼의 幸福에 對해서는 設計者가 아닌 트루먼의 立場에서 들어 봐야 한다. 그리고 트루먼이 設令 自身이 幸福하다고 말하더라도 設計者가 犯한 倫理的 問題는 如前히 論難이 될 것이다. 우리가 놓치고 있거나 優先順位에 밀려 暫時 미루고 있는 倫理的 問題에 對한 苦悶이 必要한 時點이다.
