“AI 惡用한 피싱-해킹 續出… 危險 막을 先制的金融保安急해”

東亞日報
入力 2024年 2月 28日 03時 00分

코멘트: 個

좋아요: 個

코멘트: 個

2024 東亞 인포섹-情報保護 콘퍼런스
“假짜뉴스-딥페이크가 金融威脅
豫防技術開發-處罰法 마련 切實
AI가이드라인 만들어 危險統制를”

27일 서울 중구 롯데호텔에서 열린 ‘2024 동아 인포섹-정보보호 콘퍼런스’에서 전요섭 금융위원회 금융혁신기획단장이
‘인공지능(AI) 시대에 대응하는 디지털 금융 정책방향’을 주제로 기조 강연을 하고 있다. 이날 전 단장은 금융 분야의 AI 활용
확대에 따른 정책 방향을 설명하며 “우리 금융이 디지털 금융 분야를 선도할 수 있는 방향으로 정책을 만들어 나가겠다”고 밝혔다.
김동주 기자 zoo@donga.com — 27日 서울 中區 롯데호텔에서 열린 ‘2024 東亞 인포섹-情報保護 콘퍼런스’에서 전요섭 金融委員會金融革新企劃團長이 ‘人工知能(AI) 時代에 對應하는 디지털 金融政策方向’을 主題로 基調講演을 하고 있다. 이날 前團長은 金融分野의 AI 活用擴大에 따른 政策方向을 說明하며 “우리 金融이 디지털 金融分野를 先導할 수 있는 方向으로 政策을 만들어 나가겠다”고 밝혔다. 金東周記者 zoo@donga.com

“챗GPT, 바드(구글의 人工知能 챗봇) 等의 高性能 모델을 쉽고 低廉하게 使用할 수 있게 되면서 生成型人工知能(AI)李顧客應對業務에 널리 쓰이기 始作했습니다. 하지만 假짜뉴스, 딥페이크(이미지 造作) 等生成型 AI를 惡用한 威脅도 續出하고 있어 이에 對한 對應도 必要합니다.”(이혁준 金融保安院 AI革新室 AI技術팀長)

東亞日報와 채널A는 27日 서울 中區 롯데호텔에서 ‘AI 時代의 金融保安’을 主題로 ‘2024 東亞 인포섹-情報保護 콘퍼런스’를 開催했다. 이 자리에 參席한 專門家들은 AI가 다양한 領域에서 活用되는 現狀況에서 金融保安이 重要한 話頭로 떠올랐다고 診斷했다. 國會政務委員會所屬國民의힘 최승재 議員은 畜舍에서 “金融이 技術中心으로 變貌하는 過程에서 巨大恨危險에 直面한 狀況”이라며 “金融保安이 情報流出, 피싱, 해킹 等을 막기 위해 投資해야 할 重要한 領域으로 자리 잡았다”고 强調했다.

● 모바일 속에도… 日常 깊숙이 浸透한 AI

이날 基調講演에 나선 전요섭 金融委員會金融革新企劃團長은 “金融圈을 筆頭로 로보어드바이저, 챗봇, 以上金融去來探知等多樣한 分野에서 AI를 導入하는 趨勢”라며 “生成型 AI의 成長潛在力을 考慮할 때 AI 導入과 活用은 必須的인 雰圍氣로 자리 잡고 있다”고 말했다.

專門家들은 모바일 機器自體에서 AI가 具現되는 ‘온디바이스 AI’에도 注目했다. 實際로 지난달 美國 라스베이거스에서 열린 世界最大情報技術(IT)·家電展示會 ‘CES 2024’에서 구글, 三星, 애플 等 글로벌 企業들이 關聯新製品을 出市하기도 했다.

신석영 하나금융경영연구소 首席硏究員은 “온디바이스 AI의 擴散으로 産業과 個人에 特化된 서비스가 本格化되고 있다”며 “生成型 AI의 出現으로 建設, 製造, 化粧品等 모든 産業에서 AI 導入과 應用이 擴大되는 趨勢”라고 分析했다.

● 딥페이크 等 AI를 惡用한 威脅도 增加

問題는 AI 導入, 活用이 잦아지면서 이를 惡用하는 事例도 增加하고 있다는 點이다. 이호석 SK쉴더스 EQST Lab팀長은 講演現場에서 딥페이크 技術을 試演해 聽衆들의 視線을 끌었다. 이 팀長은 “AI를 다루지 못하는 一般人들도 누구나 딥페이크를 使用할 수 있다”며 “딥페이크로 形成된 合成 미디어를 探知하는 技術硏究와 함께 AI 惡用事例를 强力處罰하는 法的根據 마련이 時急한 狀況”이라고 指摘했다. 김기웅 KB國民銀行情報保護部次長도 “全世界 사이버 威脅에 效果的으로 對應하기 위해 先制的인 威脅識別活動이 重要하다”고 强調했다.

金融當局은 AI에 對한 危險統制方案이 없을 境遇, 金融 시스템 全般에 危機를 觸發할 不確實性이 크다고 憂慮하고 있다. 이에 따라 2021年金融分野의 ‘AI 가이드라인’을 만드는 等社會的信賴를 鞏固히 하기 위해 努力하고 있다. 前團長은 “AI의 學習過程을 人間이 모두 把握하기 어려운 데다 偏向된 豫測을 펼치는 事例도 적지 않다”며 “金融社들이 特定 AI 모델에 過하게 依存할 境遇金融圈資金 흐름, 意思決定等이 같은 方向으로 쏠릴 수 있다. 이런 點을 勘案해 2021年 AI 가이드라인을 만들어 對應하는 中”이라고 說明했다.

강우석 記者 wskang@donga.com
김수연 記者 syeon@donga.com
정순구 記者 soon9@donga.com

#ai #惡用 #피싱 #해킹 #東亞 인포섹 #情報保護