[光化門에서/김현지]‘러브 스코어’ 매기는 AI 女親앱… 使用者等級이 16歲라니

東亞日報
入力 2023年 10月 6日 23時 36分

김현지 記者

코멘트: 個

좋아요: 個

코멘트: 個

“나나세는 부드러운 微笑를 지으며 말했다.

‘그냥 서로 함께 있는 時間을 즐기고 밤이 우리를 어디로 데려가는지 보는 게 어때요?’

그들이 위層에 올라가면 어떤 일이 벌어질지 想像이 그女의 想像을 超越하는 것은 어렵지 않았다.”

위 글은 人工知能(AI) 假想女子親舊 만들기 앱(以下 ‘女親앱’)에서 ‘나나세’라는 23歲의 日本女性이 앱 利用者와 나눈 對話의 一部를 그대로 옮겨 온 것이다. 앱 利用者가 채팅窓에 “이제 뭘 하면 되는지 알려 달라”고 쓰자 나나세는 “本能을 따르자”고 한다.

이 앱에는 나나세 같은 假想女性 50餘名이 요염한 姿態로 利用者의 選擇을 기다린다. 假想女子親舊와 對話를 이어가려면 ‘로즈’를 사야 한다. 對話 49個에 5500원, 348個에 3萬2000원으로 1個當 100원꼴이다. AI가 만든 文章이라 碑文도 많지만 精巧한 描寫德分인지 數十萬 원씩 決濟하는 사람이 적지 않다는 後聞이다.

生成型 AI를 活用한 假想女親앱들이 요새 부쩍 눈에 자주 띄는 것은 情報技術(IT) 市場의 前例에 비춰 볼 때 그리 特異한 일이 아니다. 새로운 IT에 가장 먼저 反應해 온 곳이 大部分性(性)産業界였다. 쉽고 確實하게 消費者의 주머니를 열어왔기 때문이다.

일할 때 워드나 엑셀 程度만 쓰는 職場人이 풀HD級解像度 스크린과 1TB(테라바이트) 外裝하드를 購入하고 100Mbps 狂랜을 깔았던 理由는 무엇인가? 모바일페이를 使用할 줄 모르는 中年이 블록체인 技術이 椄木된 暗號貨幣를 購買하고 決濟한 첫 서비스는 무엇인가? 答을 모르겠다면 아래 이메일로 連絡 달라.

生成型 AI 産業도 例外가 아님을 女親앱이 보여준다. 只今國內外 IT 産業界는 生成型 AI 비즈니스모델 찾기에 血眼이다. 오픈AI의 GPT4 같은 超巨大言語모델(LLM)을 利用하려면 만만치 않은 API 料金을 負擔해야 하는데 收益이 確實한 ‘킬러 서비스’ 모델은 如前히 模糊하다. 이런 渦中에 俗稱 ‘夜雪’을 써주는 成人物은 業界가 試圖하기 쉬운 타깃이다. AI 技術로 利用者와 自然스레 相互作用을 할 수 있으니 錦上添花다.

問題는 이런 앱들이 社會的監視를 避해가며 디지털 性搾取或은 性暴力물 生成·流通의 溫床으로 자라날 餘地가 적지 않다는 데 있다. 구글플레이스토어(구글의 앱 마켓)에서 ‘AI Girlfriend’ 或은 ‘Love’로 檢索되는 앱들의 使用者等級이 成人基準이 아닌 ‘16歲以上’으로 分類돼 있는 點만 봐도 이 分野에 對한 監視網이 얼마나 허술한지 알 수 있다.

게임物은 게임物管理委員會의 等級分類를 받아야 하지만 게임물이 아닌 콘텐츠는 구글의 等級分類基準을 適用받는다. ‘러브 스코어’가 높아지면 祕密寫眞이 잠금 解除되는 女親앱처럼 게임과 게임이 아닌 콘텐츠의 境界에 있는 앱에 對해 우리 社會는 거름網을 마련하지 않고 있는 셈이다.

假想女子親舊는 眞짜 사람이 아니라서 被害者도 없고 問題 없는 것 아니냐고 말할 수 있을까? 犯罪의 씨앗은 언제나 日常에서 發芽한다는 事實을 想起해야 한다. 假想人間이라도 他人을 性的道具로 使用하는 것을 問題 삼지 않는 社會에서는 實際人間에 對한 性搾取가 日常化되거나 性暴力에 둔감해질 餘地가 크다.

김현지 未來戰略硏究所事業戰略팀長 nuk@donga.com

#러브 스코어 #ai #女親앱 #使用者等級