한국   대만   중국   일본 
AI도 價性比 時代…LLM가고 SLM 뜬다 - 아시아經濟
Dim領域

AI도 價性比 時代…LLM가고 SLM 뜬다

뉴스듣기 스크랩 글字크기

글字크기 설정

닫기
印刷 RSS

媒介變數 1000億個 넘는 大型言語모델
SLM은 100億個 未滿으로 低費用 高效率
파이3, 라마3, 젬마2B 等 代表的

AI도 가성비 시대…LLM가고 SLM 뜬다
AD
원本보기 아이콘

生成型 人工知能(AI) 開發에 뛰어든 企業들이 最近 小型言語모델(SLM)로 눈을 돌리고 있다. 巨大言語모델(LLM) 보다 더 적은 費用으로도 비슷한 性能을 냄으로써 價性比를 極大化하려는 움직임이다.


18日(現地時間) 主要 外信에 따르면 마이크로소프트(MS), 메타플랫폼, 구글과 같은 빅테크(大型 情報技術 企業)들은 LLM보다 더 적은 媒介變數(파라미터)를 投入해 俊秀한 性能을 내는 ‘작지만 强한’ AI 모델들을 잇달아 선보이고 있다. 媒介變數란 AI가 年産 過程에서 考慮하는 다양한 變數로, 人間 頭腦의 시냅스에 該當한다. 媒介變數가 많을수록 AI의 性能도 좋아진다.

[이미지출처=로이터연합뉴스]

[이미지出處=로이터聯合뉴스]

원本보기 아이콘

MS는 지난달 SLM 모델 ‘파이-3 미니’를 公開했다. 파이-3 미니의 媒介變數는 38億個로 오픈AI GPT-3.5(1750億個)의 約 50分의 1 水準이다. 루이스 바가스 MS AI 擔當 副社長은 "파이-3 미니의 推論 費用은 비슷한 機能을 가진 다른 모델과 比較해 10分의 1 水準으로 低廉하다"고 說明했다.


앞서 메타도 媒介變數 80億個짜리 ‘라마-3’를 出市하며 生成型 AI 小形化 路線을 타고 있다. 메타는 前作인 라마-2부터 모델들을 오픈소스化해 수많은 變形 라마 모델들을 낳고 있다. 구글도 지난 2月 媒介變數가 20億個에 不過한 젬마 2B를 出市하며 高效率에 集中하는 모습을 보여줬다.


이처럼 SLM이 最近 빅테크들의 注目을 받는 理由는 低廉한 稼動 費用 때문이다. 지난週 公開된 오픈AI의 最新 AI 모델 GPT-4o(옴니)와 구글의 제미나이 1.5프로의 境遇 媒介變數가 1조개를 上廻할 것으로 推定되는 代表的인 LLM이다. 두 모델의 토큰 100萬個當 單位 費用은 各各 5달러, 7달러로 라마-3(0.2달러)보다 25倍 以上 비싸다. 토큰은 言語모델이 認識하는 文字 데이터 單位를 意味한다.

低廉한 費用에 더해 온非다이스 利用이 可能하다는 點도 SLM의 長點으로 꼽힌다. SLM은 데이터를 클라우드로 보내는 代身 裝置에서 로컬로 作業을 處理할 수 있어 個人情報 保護에도 卓越하다. 代表的으로 애플은 來달 열리는 年例 開發者 行事에서 오픈AI의 챗GPT를 搭載한 아이폰을 公開할 豫定인 것으로 傳해졌다.


銀行 諮問 로펌 애들쇼고다드의 샬럿 마셜 辯護士는 "우리 로펌을 찾는 많은 顧客이 生成型 AI 製品을 採擇할 때 重要하게 考慮한 것 中 하나가 데이터 處理 및 保安에 對한 規制 遵守였다"며 "SLM이 떠오르면서 企業들이 法的 問題와 費用 負擔에서 벗어나게 될 機會가 생겼다"고 診斷했다.





金晋榮 記者 camp@asiae.co.kr
AD

<ⓒ투자가를 위한="" 경제콘텐츠="" 플랫폼,="" 아시아경제(www.asiae.co.kr)="" 무단전재="" 배포금지="">

함께 본 뉴스

새로보기

이슈 PICK

  • 자동차 폭발에 앞유리 '박살'…전국 곳곳 '北 오물 풍선' 폭탄(종합) 하이브, 어도어 이사회 물갈이…민희진은 대표직 유임 (상보) 김호중 검찰 송치…음주운전·범인도피교사 혐의 추가

    #國內이슈

  • 중국 달 탐사선 창어 6호, 세계 최초 달 뒷면 착륙 트럼프 "나는 결백해…진짜 판결은 11월 대선에서" "버닝썬서 의식잃어…그날 DJ는 승리" 홍콩 인플루언서 충격고백

    #海外이슈

  • [포토] 일주일 앞으로 다가온 현충일 [이미지 다이어리] '예스키즈존도 어린이에겐 울타리' [포토] 시트지로 가린 창문 속 노인의 외침 '지금의 나는 미래의 너다'

    #포토PICK

  • 베일 벗은 지프 전기차…왜고니어S 첫 공개 3년간 팔린 택시 10대 중 3대 전기차…현대차 "전용 플랫폼 효과" 현대차, 中·인도·인니 배터리 전략 다르게…UAM은 수소전지로

    #CAR라이프

  • [뉴스속 용어]심상찮은 '판의 경계'‥아이슬란드서 또 화산 폭발 [뉴스속 용어]한-UAE 'CEPA' 체결, FTA와 차이점은? [뉴스속 용어]'거대언어모델(LLM)' 개발에 속도내는 엔씨소프트

    #뉴스속OO

間隔處理를 위한 class

많이 본 뉴스 !가장 많이 읽힌 뉴스를 提供합니다. 集計 基準에 따라 最大 3日 前 記事까지 提供될 수 있습니다.

top버튼