EU “AI 生體認識惡用技術, 許容될 수 없는 危險” 11月부터 規制

東亞日報
入力 2024年 3月 15日 03時 00分

조은아 記者

코멘트: 個

좋아요: 個

코멘트: 個

世界 첫 ‘AI 規制法’ 最終承認
‘個人性向-信念分類’ 技術禁止
CNN “規制强度, 美水準 뛰어넘어”
AI業界 “技術發展沮害” 協商要請

AI 규제법, EU의회 통과 13일 프랑스 스트라스부르의 유럽연합(EU) 의회에서 인공지능(AI) 기술 규제 법안에
찬성하는 의원들이 한쪽 팔을 들어 투표하고 있다. 이날 의원들은 찬성 523표, 반대 46표, 무효 46표로 이 법안을
통과시켰다. 스트라스부르=AP 뉴시스 — **AI 規制法, EU議會通過** 13日 프랑스 스트라스부르의 유럽聯合(EU) 議會에서 人工知能(AI) 技術規制法案에 贊成하는 議員들이 한쪽 팔을 들어 투표하고 있다. 이날 議員들은 贊成 523票, 反對 46票, 無效 46票로 이 法案을 통과시켰다. 스트라스부르=AP 뉴시스

올 11月부터 유럽聯合(EU) 會員國에선 스마트폰으로 사람 얼굴을 認識해 性的趣向을 알아내거나 個人의 所得, 社會的地位를 點數로 매기는 人權侵害的人工知能(AI) 서비스가 禁止된다. 人間水準의 思考能力을 지닌 汎用人工知能(AGI·Artificial General Intelligence) 開發企業은 來年 5月부터 當局의 徹底한 評價를 받고 深刻한 事故는 꼭 報告해야 한다.

EU가 13日世界最初로 AI法을 承認함에 따라 AI의 危險水準에 따라 差等化된 規制가 順次的으로 施行된다. ‘AI 先進國’ 美國에선 “美國의 措置를 뛰어넘는 規制”라는 意見도 나왔다. 지난해 10月 AI를 統制하는 行政命令에 署名한 美國보다 內容과 形式에서 모두 앞선다는 評價다. 反面 AI 企業들은 “産業發展을 沮害할 수 있다”고 憂慮의 목소리를 냈다.

關鍵은 AI法이 現實的으로 얼마나 效果를 發揮할 수 있느냐에 있다. 이 때문에 스페인 等은 規制機關을 設立하고 專門人力確保에 積極 나서고 있다.

● 生體認識等 올 11月부터 禁止

EU의 AI法은 AI 技術을 危險水準에 따라 規制한다. 最高段階인 ‘許容될 수 없는 危險’부터 ‘高危險’ ‘制限된 危險’ ‘低危險’까지 4段階로 分類됐다. 法을 違反할 境遇엔 該當會社의 世界賣出最大 7%에 該當하는 罰金이 賦課될 수 있다.

‘許容될 수 없는 危險’은 스마트폰 顔面認識決濟 시스템처럼 사람 얼굴을 撮影해 利用者의 性的趣向, 政治·宗敎的信念, 人種等敏感한 情報를 알아내는 AI가 代表的이다. 實時間 얼굴을 認識한 뒤 이를 旣存 데이터를 바탕으로 分類해 特定人의 情報를 推論해내는 方式이다. 音聲認識으로 어린이의 危險한 行動을 誘導하는 장난감 等도 包含된다.

이 같은 技術은 11月 먼저 禁止된다. 다만 테러나 性暴力等重大犯罪와 關聯된 容疑者搜索等엔 例外的으로 許容할 方針이나, 이 亦是法院의 許諾을 받아야 한다.

當局의 主要規制對象이 될 것으로 展望되는 ‘高危險’ AI 技術은 人間의 삶 全般을 다양하게 包含시켰다. 生命 및 健康에 危險을 일으킬 수 있는 인프라부터 試驗採點等敎育·職業訓鍊, 履歷書分類等雇傭 및 勤勞者管理, 信用朝會等公共·民間 서비스 等이 網羅된다. 高危險 AI 技術은 開發부터 嚴格한 審査를 거치면 市場에 내놓을 수 있다.

‘制限된 危險’ AI엔 올해 ‘슈퍼 選擧의 해’를 맞아 더욱 關心이 쏠리는 生成型 AI와 딥페이크 等이 包含된다. 企業들은 利用者들이 콘텐츠가 生成型 AI나 딥페이크임을 알아보도록 반드시 標示해야 한다. ‘低危險’ AI는 비디오 게임이나 스팸 필터 앱 等現在 EU에서 許容되는 大部分의 AI 技術을 일컫는다.

● 規制機關新設, 人材誘致競爭

美 CNN放送은 “EU의 AI法은 重要하고 破壞的技術을 規制해 美國을 뛰어넘었다”고 報道했다. 反面英國 런던 英國왕립국제문제연구소(채텀하우스)는 “中國은 이미 AI 規制規定과 함께 標準設定에 相當한 進展을 이뤄냈다”고 評價했다.

AI 企業들은 이 法이 關聯産業發展을 위축시킬 것을 憂慮하고 있다. 유로뉴스에 따르면 技術企業과 貿易協會를 代表하는 디지털유럽은 이미 EU 側에 關聯協商을 要請한 狀態다.

EU 會員國들은 AI法最終承認에 앞서 規制機關設立 및 專門人力採用等 인프라 構築에 集中해왔다. 유로뉴스는 “스페인은 지난해 라코루냐에 AI 監督機關(AESIA)을 設立해 EU 會員國中 처음으로 AI 規制機關을 마련했다”고 傳했다. 아일랜드는 企業貿易雇傭部가 AI法에 對한 國家施行計劃開發을 主導할 豫定이다.

파리=조은아 特派員 achim@donga.com

#eu #a #生體認識 #惡用 #規制