人工知能(artificial intelligence, AI)은 時代의 話頭입니다. AI 競爭力의 確保 與否가 좁게는 特定 서비스, 넓게는 國家의 未來를 左右할 수 있는 要因으로 擧論되기도 합니다. AI의 位相이 높아지면서, AI 알고리즘 倫理에 對한 關心 亦是 커지고 있습니다. 알고리즘에 對한 倫理意識 確保는 該當 서비스뿐만 아니라, 이를 開發하고 運營하는 企業의 社會的 責務로도 看做되고 있습니다.
모두를 連結하여, 더 나은 世上을 만들고자 하는 카카오에 AI는 連結의 價値를 높여 줄 核心 動力입니다. 카카오가 AI를 통해 만들고자 하는 日常은 누구나 더 便利하게 技術의 惠澤을 누릴 수 있는 世上입니다. 삶의 便宜를 한 段階 높일 AI가 社會 倫理의 範疇 안에서 穩當함을 維持하는 것을 카카오는 追求합니다. 이를 爲해서는 알고리즘의 開發과 管理를 包含한 運營 一切에서 合意된 倫理 意識이 隨伴되어야 합니다.
카카오는 內部的으로 AI에 對한 倫理 意識을 整備하는 次元에서 크루들의 意見을 모아, 카카오 알고리즘 倫理 憲章을 마련했습니다. 2017年 9月부터 始作된 硏究, 內部 論議 作業을 거쳐 5個 안으로 構成된 카카오 알고리즘 倫理 憲章이 確定됐습니다.
企業이 알고리즘 倫理 原則을 內部的으로 마련하고, 外部에 公表하는 것은 國內에서 처음 있는 일입니다. 카카오는 2017年 3月 인터넷 企業으로는 最初로 뉴스 配列의 알고리즘 一部를 學會 저널에 論文으로 公開했을 뿐만 아니라
*1
, 韓國言論學會 定期學術大會에서 別途의 세션을 마련하여 미디어 擔當 任員과 알고리즘 擔當 TF欌이 有關 알고리즘을 紹介하기도 했습니다.
*2
카카오는 ‘카카오 AI리포트’를 통해, 持續的으로 進化된 뉴스 알고리즘을 公開하기도 하는 等 알고리즘 說明과 關聯한 社會的 責務를 誠心껏 遂行해 왔습니다.
*3
이番 張에 카카오 알고리즘 倫理 憲章이 論議된 背景, 그리고 倫理 憲章의 各 條項에 對한 意味를 具體的으로 說明한 글을 담았습니다.
카카오 알고리즘 倫理 憲章
1. 카카오 알고리즘의 基本 原則
카카오는 알고리즘과 關聯된 모든 努力을 우리 社會 倫理 안에서 다하며, 이를 통해 人類의 便益과 幸福을 追求한다.
2. 差別에 對한 警戒
알고리즘 結果에서 意圖的인 社會的 差別이 일어나지 않도록 警戒한다.
3. 學習 데이터 運營
알고리즘에 入力되는 學習 데이터를 社會 倫理에 根據하여 蒐集?分析?活用한다.
4. 알고리즘의 獨立性
알고리즘이 누군가에 依해 恣意的으로 毁損되거나 影響받는 일이 없도록 嚴正하게 管理한다.
5. 알고리즘에 對한 說明
利用者와의 信賴 關係를 위해 企業 競爭力을 毁損하지 않는 範圍 內에서 알고리즘에 對해 성실하게 說明한다.
2018年 01月 31日
카카오
論議 背景
알고리즘에 對한 期待가 높아지면서 그로 인해 招來될 수 있는 逆機能에 對한 漠然한 恐怖心 亦是 커지고 있습니다. AI의 빠른 鎭火는 머지 않은 未來에 人間을 뛰어 넘는 超知能(super intelligence)의 登場으로 이어져 AI가 人間 社會를 威脅하는 存在가 될 수 있다는 憂慮가 提起되고 있습니다.
알고리즘을 基盤으로 發展하는 AI와 로봇의 擴散으로 맞게 될 새로운 時代의 倫理 規範 마련은 알고리즘을 開發하는 企業을 筆頭로 重要한 社會的 課題로 浮上하고 있습니다.
倫理的 側面에서 알고리즘과 關聯된 主要 論議 主題로는 크게 意圖的 差別性, 데이터 蒐集 및 管理 側面의 倫理性 不在, 統制 不可能性, 그리고 不透明性을 들 수 있습니다. 前述한 論議 主題들은 아래와 같이 整理될 수 있습니다.
倫理的 側面에서 알고리즘과 關聯된 主要 論議 主題
1. 意圖的 差別性
알고리즘의 결괏값에 對해 알고리즘의 開發 및 運營 主體가 意圖的으로 差別的인 結果가 나오도록 介入을 했는지에 對한 憂慮를 의미합니다. 이러한 差別性은 特定 價値 中心으로 偏向된 결괏값으로 連結될 수 있다는 側面에서 偏向性으로 擧論되기도 합니다.
2. 데이터 蒐集 및 管理 側面의 倫理性 不在
알고리즘 性能에 直結된 要素 中 하나가 學習 데이터입니다. 데이터의 規模와 質은 알고리즘, 그것을 바탕으로 한 人工知能의 性能을 左右합니다. 大槪 알고리즘 學習에 쓰이는 데이터는 個人의 日常 記錄이거나 그와 關聯이 있는 資料입니다. 그렇기에 데이터 蒐集 및 管理 側面에서 높은 倫理 意識이 要求되고 있습니다.
3. 統制 不可能性
空想科學 小說이나 映畫의 주된 素材는 人間 統制 範圍를 벗어난 AI가 人類를 攻擊하는 모습입니다. 統制 不可能性은 萬에 하나 있을지 모르는 人類의 幸福이 侵害될 수 있다는 憂慮로 이어집니다. 惡意的 意圖가 反映된 알고리즘이 統制 不可能 狀態가 되어 人類에 害를 끼칠 수 있는 蓋然性에 사람들은 憂慮를 표합니다. 同一한 脈絡 下에서, AI의 알고리즘 開發 및 運營의 全 過程이 關聯 主體에 依해 統制되어야 한다는 意見이 提起되고 있습니다
4. 不透明性
알고리즘의 原理와 作動 方式에 對한 說明의 必要性을 强調하는 次元에서 不透明性은 問題로 提起되고 있습니다. 說明 範圍의 妥當性에 對해서는 社會的으로 意見이 紛紛합니다. 그러나, 狀況 脈絡을 理解할 수 있는 情報의 提供은 商品 或은 서비스의 利用者에게 提供되어야 하는 條件으로 擧論되고 있습니다.
카카오는 우리 社會의 代表的인 AI 技術 企業으로서 社會的 責任과 時代에 걸맞은 內部 倫理的 基準을 確立하고자 이番 倫理 憲章 樹立 作業을 進行했습니다. 알고리즘 倫理 憲章을 制定하고, 公表하는 카카오의 이番 決定이 알고리즘에 關한 社會的 規範을 形成하는 論議의 始發點이 되길 苦待합니다.
카카오 알고리즘 倫理 憲章과 各 條項別 說明
1. (카카오 알고리즘의 基本 原則) 카카오는 알고리즘과 關聯된 모든 努力을 우리 社會 倫理 안에서 다하며, 이를 통해 人類의 便益과 幸福을 追求한다.
카카오가 알고리즘 倫理 憲章을 導入한 目的입니다. 카카오는 알고리즘 開發을 통해 카카오 서비스를 職·間接的으로 利用하는
사람들이 便益을 누리고, 보다 幸福해지는 데
寄與하고자 합니다. 알고리즘 開發 및 管理와 關聯된 一連의 過程에서 카카오의 努力은 우리 社會의 倫理 原則에 符合하는 方向으로 이뤄질 것입니다.
2. (差別에 對한 警戒)
알고리즘 結果에서 意圖的인 社會的 差別이 일어나지 않도록 警戒한다.
카카오는 다양한 價値가 共存하는 社會를 志向합니다. 카카오의 서비스로 具現된 알고리즘 結果가 特定 價値에 偏向되거나 社會的인 差別을 强化하지 않도록 努力하겠습니다.
3. (學習 데이터 運營) 알고리즘에 入力되는 學習 데이터를 社會 倫理에 根據하여 蒐集?分析?活用한다.
카카오는 알고리즘의 開發 및 性能 高度化, 品質 維持를 위한 데이터 蒐集, 管理 및 活用 等 全 過程을 우리 社會의 倫理를 벗어나지 않는 範圍에서 遂行하겠습니다.
4. (알고리즘의 獨立性) 알고리즘이 누군가에 依해 恣意的으로 毁損되거나 影響받는 일이 없도록 嚴正하게 管理한다.
카카오는
알고리즘이 特定 意圖의 影響을 받아 毁損되거나 歪曲될 可能性을 遮斷하고 있습니다. 앞으로도
카카오의 알고리즘은 獨立的이고 嚴正하게 管理될 것입니다.
5. (알고리즘에 對한 說明) 利用者와의 信賴 關係를 위해 企業 競爭力을 毁損하지 않는 範圍 內에서 알고리즘에 對해 성실하게 說明한다.
카카오는 새로운 連結을 통해 더 便利하고 즐거워진 世上을 꿈꿉니다. 카카오 서비스는 사람과 사람, 사람과 技術을 한層 가깝게 連結함으로써 그 目標에 다가가고자 합니다. 카카오는 모든 連結에서 利用者와의 信賴 關係를 所重하게 생각합니다.
이를 爲해 더 나은 價値를 持續的으로 提供하는 企業으로서, 利用者와 誠實하게 疏通하겠습니다.
* 알고리즘 倫理 歷史를 담은 콘텐츠를 볼 수 있는 링크입니다.
글 | 김대원 ive.kim@kakaocorp.com
人工知能을 社會科學 側面에서 바라보는 硏究를 일터에서도 하고 있습니다. 漠然한 憂慮瓦片犬이 아닌 제대로 된 理解를 바탕으로 人工知能을 바라보기 위해 恒常 분주합니다.인공지능의 社會的 擴散과 그에 對한 空中의 認識, 그리고 倫理를 硏究의 主題語로 삼고있습니다. 本來 專攻은 미디어 經營과 戰略이며, 새로운 技術을 中心으로 미디어 戰略을 所在老漢 硏究 論文 및 書籍을 써왔습니다.
[카카오 AI 리포트] Vol. 10 (2018年 1月 號) 는 다음 內容으로 構成되어 있습니다.
[1] 2018 Kakao AI - 倫理, 技術, 그리고 採用
01. 김대원 : 카카오 알고리즘 倫理 憲章의 解除
02. 김병학 : 카카오 AI 技術의 3代 發展 方向
03. 황성현 : 카카오의 AI 人材 迎入 戰略
[2] Kakao Brain section - 두 單語의 거리 그리고 꿀벌 드론
04. 이수경 이주진 임성빈 : Brain's Pick - 單語 間 有司도 把握 方法
05. 이수경 : AI in pop-culture - 꿀벌 드론
[3] AI&Mobility - AI 그리고 우리 移動의 脈絡, 두 番째 이야기
06. 조창현 : AI 그리고 온디맨드 交通政策
07. 김현명 : 交通分野 AI 技術 開發의 現況과 課題
08. 윤지상 金聖鎭 권영주 : 카카오내비 豫測의 正確性 그리고 AI
[4] AI event - 2018 AI 세미나 살펴보기
09. 윤재삼 양정석 신종주 : NIPS에서 發見한 AI 트렌드
10. 정수헌 양원철 : 2018年 主要 AI 이벤트
[5] information
11. 國內 머신러닝 스터디 紹介
[카카오 AI 리포트] Vol. 10 全體글 다운받기
[카카오 AI 리포트] Vol. 10_01 다운받기
參考文獻
*1
論文 | 박승택, 성인재, 서상원, 황지수, 노지성, 김대원 (2017). 機械學習 基盤의 뉴스 推薦 서비스 構造와 그 效果에 對한 考察. 사이버커뮤니케이션學報, 34卷 1號, 5-48.
*2
參考 | 該當 세션을 取材한 記事 URL:
http://v.media.daum.net/v/20170709182306874
*3
參考 |
https://brunch.co.kr/@kakao-it/136
