• 구글, AI로 白人만 예쁘게 찍던 카메라 機能 고쳐

• 애플, 몸이 不便해도 쉽게 使用할 수 있는 앱 開發

• 글로벌 IT會社, 技術開發로 더 多樣한 消費者 품는다

• ‘差別에 銳敏한’ 職員이 開發하는 差別 없는 技術

• IT强國인 韓國은 多樣性·包容性에 無關心

• AI 偏向性 問題에 對해 아예 모르고 있는 境遇도

실리콘밸리 빅테크 企業들은 어떻게 包容性, 多樣性을 追求하고 있을까? 구글은 지난 5月 열린 구글 開發者 大會 ‘구글 I/O’에서 ‘公正한 카메라(Equitable Camera)’라는 槪念을 紹介했다.

“사람들은 흔히 카메라가 客觀的이라고 생각하지만, 現實은 그렇지 않다. 카메라 技術에는 많은 判斷이 들어가 있으며, 歷史的으로 그런 判斷은 非(非)有色人種이 해왔다”는 것이다.

카메라의 人種差別, 구글 AI로 克服

1990年代까지만 해도 코닥 컬러필름은 白人 皮膚톤과 비슷한 色에 더 잘 反應하는 化學藥品(感光物質)이 使用됐다. 白人과 黑人을 한 앵글에 담으면 寫眞이 엉망으로 引火되기 일쑤였다. 現在 카메라 技術의 總集合人 最新 디지털카메라에도 비슷한 問題가 있다. 白人의 皮膚色을 基準으로 화이트밸런스 및 露出의 感度가 設定돼 있기 때문이다.

구글은 이 問題를 解決하기 위해 더 많은 이미지 데이터 세트를 活用해 AI(人工知能)를 學習, 화이트밸런스와 露出 感度를 自動으로 調節해 주는 方式을 開發했다. 黑人처럼 짙은 皮膚 톤을 가진 사람들도 더 아름다운 寫眞을 얻을 수 있도록 한 것이다. 구글은 下半期 公開할 自體 開發 스마트폰인 ‘픽셀’ 新型에 이 機能을 搭載할 豫定이다.

白人의 皮膚色에 맞춰진 카메라 시스템을 구글이 新技術 開發로 克服해 낸 셈이다. 플로리안 코닉스버거 구글 프로덕트 마케팅 디렉터는 “이건 技術者들이 解決해야 하는 問題다. 使用者가 外貌를 바꿀 것이 아니라 우리가 道具의 作動 方式을 바꿔야 한다”고 强調했다.



애플 亦是 모든 使用者의 接近性, 滿足度를 높이기 위한 努力을 하고 있다. 지난 6月 7日 열린 애플 開發者大會(WWDC 2021)에서 紹介한 애플워치 ‘魚市스티브 터치(Assistive Touch)’ 機能이 代表的이다.

이 機能은 障礙人, 老人 等 擧動이 不便한 使用者가 애플워치 畵面을 터치하지 않고도 時計를 造作할 수 있도록 만들어준다. 손바닥을 폈다가 움켜쥐는 動作, 엄지와 검指를 붙였다 떼는 動作, 손목을 터는 動作으로 簡單한 機能을 始作하거나 終了할 수 있는 方式이다. 손목에 찬 時計를 여러 方向으로 기울여 畵面 속 커서를 이동시킬 수도 있다.

지난 5月 20日 出市한 ‘사인 타임(SignTime)’ 서비스 亦是 障礙人 接近性을 높이기 위한 서비스다. 聽覺障礙人과 綏化 通譯士를 1對 1로 遠隔 連結, 애플스토어에서 製品을 사거나 修理할 수 있다. 現在 美國, 英國, 프랑스에서 活用 可能하며 서비스 可能 國家를 繼續 擴張해 나갈 豫定이다.

애플은 올해 WWDC에서 휠체어를 탄 年事가 室外에서 새로운 機能을 說明하는 그림을 演出하기도 했다. 멕 프로스트 애플 맵 프로덕트 디자인 디렉터는 過去에도 WWDC 키노트에 出演했지만, 講堂 內部가 아닌 室外는 처음이었다. 애플 캠퍼스(애플의 社屋)가 障礙人의 移動權을 保障하는 構造로 設計돼 있다는 걸 分明히 보여주는 場面이었다.

앞서 言及한 黑人, 障礙人 包容 事例가 잘 와닿지 않는다면 東洋人이 排除되는 狀況을 떠올려보면 된다. 다양한 人種的 特性이 제대로 考慮되지 못해 東洋人에게 맞지 않는 製品이 開發되는 事例가 代表的이다. 예컨대 헬멧의 境遇 東洋人은 白人에 비해 머리 模樣이 둥글고 左右 幅이 넓기 때문에 西洋人 基準으로 開發하면 東洋人에게 맞지 않는다. 이런 施行錯誤를 거쳐 ‘스미스(Smith)’ ‘壘錄(Ruroc)’ 같은 헬멧 브랜드는 ‘東洋人 사이즈(asian fit)’를 別途로 出市하고 있다.

多樣性 위해 女性·有色人種 採用 나서

이처럼 偏向性은 많은 境遇 直接 經驗한 後에야 認知할 수 있다. 구글, 애플 같은 실리콘밸리 企業들이 다양한 經驗과 背景을 가진 人材를 採用하려고 努力하는 理由가 여기에 있다. 최문정 카이스트 科學技術政策大學院 敎授는 “社會의 여러 領域에서 技術은 大體로 效率性과 便利性을 增進하려는 目標로 導入된다”며 “더 많은 사람(더 큰 市場)을 위한 製品을 開發하는 大量生産, 大量消費 시스템에서는 主流와 다른 特性을 지닌 사람은 不便할 수밖에 없는 構造”라고 指摘했다.

崔 敎授는 “企業이 技術開發을 할 때도 消費力이 弱한 少數는 疏外되거나 考慮되지 않는 일이 많다”며 “이처럼 시스템에 基盤한 不平等을 緩和하려면 技術을 開發하고 使用하는 사람들의 價値觀이 重要하다”고 말했다.

製品이나 서비스가 多樣性, 包容性을 갖추길 바란다면 그 製品 및 서비스를 만드는 팀 自體를 多樣性을 갖춘 사람들로 構成할 必要가 있다. 意圖치 않은 ‘排除’는 多樣性 不足에서 비롯된다는 게 실리콘밸리 빅테크 企業들의 共通된 認識이다.

애플은 “모두에게 自律權을 주고 모두를 기쁘게 하라”는 앱 開發의 大原則을 提示하고 있다. 앱스토어에 앱을 올리는 앱 開發者들을 위해서는 휴먼 인터페이스 가이드라인(Human Interface Guidelines)이라는 指針을 세워뒀다. 모든 사람은 특별하고 重要하며 本然의 모습 그대로 尊重받아야 하기 때문에 나이, 性 正體性, 人種과 民族, 生物學的 性, 言語와 文化, 宗敎, 政治的 觀點, 社會經濟的 脈絡에 從屬되거나 局限된 디자인을 해서는 안 된다는 原則이다.

구글 亦是 이番 구글 I/O에서 ‘스마트 캔버스’라는 새로운 協業 道具를 發表하면서 ‘包容的 言語’ 機能을 追加했다. 스마트 캔버스는 구글 文書 道具, 스프레드시트, 프레젠테이션, 구글 미트 等의 機能이 연동된 綜合 業務 協業 툴인데, 文書에 特定 性正體性을 指稱하는 單語가 包含됐을 境遇 이를 修正할 수 있게 다른 單語를 提案하는 方式으로 設計됐다. 예컨대 議長을 뜻하는 ‘체어맨(Chairman)’이란 單語를 쓰면 스마트 캔버스가 이 單語를 自動으로 認識해 ‘체어퍼슨(Chairperson)’ 或은 ‘체어(Chair)’를 提示한다.

包容性은 AI(人工知能) 技術·産業에서도 重要한 이슈로 떠오르고 있다. AI 技術은 이미지 認識, 音聲 認識, 文字 認識, 클라우드, 로봇, 自律走行車에 이르기까지 거의 모든 未來 産業 分野에 AI技術이 適用되기 때문이다. 特히 AI 學習에 投入하는 데이터 自體가 歪曲돼 있을 境遇 AI가 偏向, 差別을 드러내는 問題가 發生한다.

代表的 事例가 2015年 구글 이미지 認識 AI 모델의 誤謬다. 當時 AI가 黑人 두 名의 寫眞을 고릴라로 分類, 큰 社會的 波紋이 일었다. 구글은 시스템을 修正했지만, AI 業界에서는 언제든 비슷한 問題가 發生할 수 있다고 보고 있다.

最近 競爭的으로 開發·出市되고 있는 對話型 AI 言語 모델에서도 包容性 問題가 자주 指摘된다. AI가 사람처럼 이야기하려면 다양한 對話 및 데이터를 學習해야 한다. 問題는 이 對話나 데이터의 內容이 偏向돼 있거나, 嫌惡나 差別에 關한 데이터를 學習하는 境遇가 있다.

代表的 例가 지난해 12月 公開된 챗봇 ‘이루다’다. 正式 出市 한 달도 채 되지 않아 이루다가 性小數者를 嫌惡한다는 答辯을 하는 事例가 發生한 데다, 猥褻的 對話까지 學習한 것으로 알려져 서비스가 終了됐다. 이는 AI 分野에서 包容性과 偏向 이슈가 繼續 提起될 수 있다는 걸 暗示한다. 마이크로소프트가 投資한 超大型 AI 言語 모델 GPT-3度 젠더 偏向的인 單語를 學習, 歪曲돼 있다는 批判을 받고 있으며 反이슬람 偏見이 存在한다는 問題 提起도 있었다.

IT業界 如前히 白人 男性 領域

다른 限界도 存在한다. 구글, 애플, 마이크로소프트 等 실리콘밸리 빅테크 企業들은 每年 年例 多樣性·包容性 報告書를 作成해 發表하는데, 如前히 女性, 黑人의 比重이 絶對的으로 적다는 指摘이 나온다. AI 等 尖端技術 分野 專門職 分布圖 마찬가지다. 페이스북의 AI 硏究 職員 中 女性은 15%, 구글은 10%에 不過하며 구글 人力의 2.5%, 페이스북과 마이크로소프트 職員의 4%만 黑人인 것으로 集計됐다.

구글의 境遇 最近 AI 모델에서 偏見을 없애야 한다고 主張한 ‘팀닛 게브루’ 博士를 解雇한 事件이 큰 論難을 낳기도 했다. 구글 AI 倫理팀 共同 팀長을 맡아왔던 게브루 博士는 超大型 AI 言語 모델의 限界를 指摘한 論文 때문에 사직당한 것으로 알려졌다.

게브루 博士는 에티오피아界 黑人 女性으로서 스탠퍼드대학에서 컴퓨터工學을 專攻한 AI 專門家다. 該當 論文을 確保해 報道한 MIT 테크놀로지 리뷰에 따르면 該當 論文에는 “超大型 AI 모델 學習에 使用되는 데이터 세트가 너무 크고 厖大하기 때문에 데이터에 內藏된 偏向을 確認하기 위한 監査(audit)가 어렵다”는 內容이 包含됐다.

‘블랙 라이브스 매터(Black Lives Matter·黑人의 목숨도 所重하다)’ 같은 새로운 言語 트렌드가 登場하면 旣存에 學習된 言語 데이터 때문에 AI 모델이 새로운 單語의 뉘앙스를 제대로 認識하거나 反映하지 못하는 問題도 發生할 수 있다는 것.

韓國 IT企業은 多樣性·包容性에 無關心

이런 限界에도 不拘하고 실리콘밸리 技術 企業들은 AI의 偏向性 問題를 認識하고 있다. 마이크로소프트는 AI 偏向性을 줄이기 위해 ‘AI 公正性 체크리스트(AI Fairness Checklist)’ ‘페어런(Fairlearn)’을 만들어 活用하고 있으며 IBM은 데이터 세트에서 偏向性을 찾아내기 위한 道具 ‘AI 페어니스 360(fairness 360)’를 선보였다. 구글 亦是 ‘왓이프 툴(What-If Tool)’을 開發, 機械學習 時 公正性을 試驗해 볼 수 있는 環境을 提供하고 있다.

오세욱 韓國言論振興財團 責任硏究員은 “젠더, 人種 等 이미 明白한 偏向은 어느 程度 修正할 수 있을 것으로 본다”며 “다만 技術이 學習하는 데이터는 언제나 過去의 데이터일 수밖에 없기 때문에 늘 現在의 觀點에서 偏向 問題가 없는지 꾸준히 監視할 必要가 있다”고 했다.

韓國에서도 네이버가 最近 超大型 AI 모델 ‘하이퍼클로바’를 公開하는 等 關聯 硏究 및 技術 商用化가 活潑하게 進行되고 있다. 그러나 企業 主導로 包容性, 偏向 問題를 豫防하고 對應하려는 움직임은 全혀 이뤄지지 않는 實情이다. 하대청 光州科學技術院 敎授는 “왜 이루다를 만든 이들, 이루다에 投資한 이들이 ‘問題를 일으킬 줄 몰랐다’고 말하는지 생각해 볼 必要가 있다”며 “技術 文化를 바꾸는 努力이 必要하다”고 했다.

#人種差別 #구글 #多樣性 #新東亞