•  


하루가 다르게 發展하는 AI 技術, 이제 安全裝置 苦悶할 때|週刊東亞

週刊東亞 1431

..

하루가 다르게 發展하는 AI 技術, 이제 安全裝置 苦悶할 때

‘딥페이크’ ‘假짜뉴스’ 惡用한 各種 犯罪 被害 現實化

  • 김지현 테크라이터

    入力 2024-03-21 09:00:01

  • 글字크기 설정 닫기
    챗GPT는 첫 登場부터 제법 自然스러운 글솜씨를 선보였다. 人工知能(AI) 技術이 빠르게 發展하면서 이제 사람이 直接 쓴 것 같은 텍스트를 내놓기도 한다. 生成型 AI를 報告書나 弘報 文句 作成에 活用할 수 있는 事務職 職場人으로선 반가운 技術 發展이다. 反面 글쓰기를 業으로 삼는 이는 AI를 憂慮 섞인 視線으로 바라보고 있다. 情報技術(IT) 企業들이 AI를 適用해 다양한 서비스를 出市하면서 單純 텍스트 生成뿐 아니라 飜譯, 通譯, 코딩 等 多樣한 分野의 效率이 높아지고 있다.

    現實 속 物理法則 學習하는 AI ‘소라’

    오픈AI의 인공지능(AI) 동영상 생성 서비스 ‘소라(Sora)’에 텍스트를 입력해 만든 영상 속 장면. [오픈AI 제공]

    오픈AI의 人工知能(AI) 動映像 生成 서비스 ‘소라(Sora)’에 텍스트를 入力해 만든 映像 속 場面. [오픈AI 提供]

    生成型 AI 技術은 그림과 寫眞을 創作하고, 音聲은 勿論 動映像까지 만들어내는 水準으로 發展했다. 假令 ‘美드저니’ ‘달리(DALL-E)3’ 같은 AI 서비스가 生成하는 이미지는 갈수록 畫質이 좋아지고 實際 寫眞을 彷彿케 할 程度로 精巧해지고 있다. 챗GPT 開發社 오픈AI가 2月 선보인 AI 動映像 生成 서비스 ‘소라(Sora)’의 性能은 더 놀랍다. 現實 속 物理法則을 學習해 映像을 製作하기에 相當히 자연스럽다. 알리바바가 發表한 ‘EMO’라는 生成型 AI도 눈에 띈다. 이미지와 오디오 파일을 프로그램에 入力하면 寫眞 속 人物이 音聲에 맞춰 말하는 듯한 映像을 만들어낸다. 單純히 입만 움직이는 게 아니라, 入力된 陰性 內容에 맞게 微妙한 表情 變化까지 具現하는 게 特徵이다.

    國內 IT 業界에도 生成型 AI 서비스가 續續 登場하고 있다. KT의 ‘AI 보이스 스튜디오’를 利用하면 特定人의 목소리와 똑 닮은 音聲 파일을 製作할 수 있다. 韓國語뿐 아니라 다양한 言語로 音聲 合成도 可能하다. AI 보이스 스튜디오에선 實際 아나운서 목소리를 바탕으로 音聲 파일을 生成하는 것도 可能하다.

    서로 다른 形態의 데이터를 모아 寫眞, 音聲, 映像을 만드는 技術은 예전에도 있었다. 다만 이런 技術을 使用하려면 많은 費用과 時間을 들여야 했다. 合成 技術을 가진 業體를 찾아 元本 데이터를 어떤 式으로 組合할지 協議하는 等 專門家들이 달라붙어 長時間 作業해야 했다. 이와 달리 生成型 AI를 使用하면 이렇다 할 專門知識이 없어도 누구나 願하는 이미지와 映像을 만들어낼 수 있다. 複雜한 프롬프트가 아닌, 日常 言語로 命令할 수 있는 것도 AI의 强點이다.

    生成型 AI라는 新技術로 門턱이 크게 낮아진 디지털 創作 分野에도 어두운 그림자는 있다. 代表的인 게 딥페이크(deepfake) 惡用 憂慮다. 누군가의 모습이 담긴 寫眞 몇 張과 짧은 音聲 錄音 파일만 있으면 그 사람이 하지 않은 말과 行動도 마치 事實처럼 꾸며낼 수 있는 것이다. 딥페이크를 惡用한 各種 犯罪 被害가 만만치 않은 狀況이다. 예전보다 더 그럴싸한 ‘假짜뉴스’ 物量 攻勢도 問題다. 이미 유튜브, 틱톡 같은 映像 플랫폼이나 인스타그램 等 소셜네트워크서비스(SNS)가 뉴스 消費에서 重要한 軸을 이루고 있다. 生成型 AI 技術이 豫想보다 빠르게 發展한 나머지, 얼핏 보면 眞짜와 區別할 수 없는 假짜 映像이 마치 事實인 양 流通되기 일쑤다.



    젠슨 黃 “生成型 AI, 臨界點 到達”

    조 바이든 미국 대통령이 지난해 10월 30일(현지 시간) AI에 대한 미국 정부의 첫 규제 조치인 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용’ 행정명령에 서명하고 있다. [뉴시스]

    조 바이든 美國 大統領이 지난해 10月 30日(現地 時間) AI에 對한 美國 政府의 첫 規制 措置인 ‘安全하고 信賴할 수 있는 AI 開發 및 使用’ 行政命令에 署名하고 있다. [뉴시스]

    生成型 AI의 副作用을 바로잡을 이렇다 할 規制 方案이 나오지 않았음에도 새로운 技術에 對한 接近性은 매우 높아졌다. AI 技術이 하루가 다르게 發展하는 狀況에서 效果的인 安全裝置를 마련할 時間은 생각보다 많지 않을 수 있다. 最近 젠슨 黃 엔비디아 創業者 兼 最高經營者(CEO)는 “加速컴퓨팅과 生成型 AI가 臨界點(tipping point)에 到達했다”고 말했다. 지난해 5月에는 마이크로소프트(MS) 所屬 科學者들이 “AI가 人間처럼 推論하기 始作하는 汎用人工知能(AGI) 段階에 近接했다”는 要旨의 論文을 發表하기도 했다. 當場은 아니어도 AI가 人間 知性을 뛰어넘는 技術的 特異點(singularity)李 到來할 可能性이 점쳐지는 것이다. 生成型 AI의 創造力에 마냥 讚歎만 보내는 時期는 끝났다. 이제 AI의 副作用으로부터 社會를 지킬 安全網을 만들 때다.

    *유튜브와 포털에서 各各 ‘매거진東亞’와 ‘투벤저스’를 檢索해 팔로剩하시면 記事 外에도 動映像 等 多彩로운 投資 情報를 만나보실 수 있습니다.



    댓글 0
    닫기
    - "漢字路" 한글한자자동변환 서비스는 교육부 고전문헌국역지원사업의 지원으로 구축되었습니다.
    - "漢字路" 한글한자자동변환 서비스는 전통문화연구회 "울산대학교한국어처리연구실 옥철영(IT융합전공)교수팀"에서 개발한 한글한자자동변환기를 바탕하여 지속적으로 공동 연구 개발하고 있는 서비스입니다.
    - 현재 고유명사(인명, 지명등)을 비롯한 여러 변환오류가 있으며 이를 해결하고자 많은 연구 개발을 진행하고자 하고 있습니다. 이를 인지하시고 다른 곳에서 인용시 한자 변환 결과를 한번 더 검토하시고 사용해 주시기 바랍니다.
    - 변환오류 및 건의,문의사항은 juntong@juntong.or.kr로 메일로 보내주시면 감사하겠습니다. .
    Copyright ⓒ 2020 By '전통문화연구회(傳統文化硏究會)' All Rights reserved.
     한국   대만   중국   일본