•  


“費用 걱정 뚝”… 價性比 小型AI-兩者AI가 뜬다 : 비즈N

“費用 걱정 뚝”… 價性比 小型AI-兩者AI가 뜬다

全南革 記者

入力 2024-04-19 03:00 修正 2024-04-19 03:00

|
폰트
|
뉴스듣기
|
記事共有  |  
  • 페이스북
  • 트위터
[새로운 人工知能 開發 競爭]
“작은 AI가 맵다, 低費用 高效率”
高麗大 開發 醫療AI, 美基準 通過
法律-通信-金融 特化 모델 쏟아져


16日 서울 성북구 안암동 고려대 硏究室. 컴퓨터學科 강재우 敎授가 ‘冠狀動脈 스탠트 施術 後 2週가 지난 61歲 男性 來院. 小便量 줄고 前身 不便感. 발에 그물 模樣의 보라色 變色’이라고 患者의 狀態를 入力했다. 그러자 姜 敎授 硏究팀이 開發한 人工知能(AI) 言語모델 ‘미어캣’李 卽時 “콜레스테롤 塞栓症 症候群(Cholesterol Embolisation Syndrome)이 나타난 것 같다”고 答했다. 醫師처럼 診斷을 내린 것이다.

미어캣은 最近 美國 醫師免許試驗에서 74點을 받아 平均 合格線인 60點을 넘었다. 硏究팀은 파라미터(媒介變數)가 70億 個 以下인 小型言語모델(sLLM)로서는 最初로 試驗을 通過했다고 說明했다. 파라미터는 人間으로 치면 情報를 學習하고 記憶하는 ‘시냅스’의 役割을 한다. 姜 敎授는 “미어캣은 高級 辭讓 게임을 돌릴 수 있는 컴퓨터 1臺灣으로 稼動이 可能하다”면서 “大型言語모델은 外部 클라우드를 使用하기 때문에 病院 等 個人情報에 敏感한 機關들은 情報 流出을 憂慮하고 있지만, 小型言語모델은 機關 內部에 設置할 수 있기 때문에 이런 問題에서 자유롭다”고 말했다.

保安性이 높고 學習과 驅動에 比較的 적은 費用이 드는 AI 小型言語모델 開發 競爭이 熾烈하게 벌어지고 있다. 大型言語모델에 비해 가볍게 運用할 수 있는 이른바 ‘價性比 AI’에 對한 需要가 높아진 것이다. 大型言語모델이 世上 모든 領域을 다 아우른다면 小型言語모델은 法律, 醫療, 通信, 金融 等 좁은 領域에서 特化된 서비스를 效率的으로 開發하고자 하는 企業에서 需要가 높다.

國內에서 代表的으로 小型言語모델 서비스를 開發 中인 企業은 업스테이지다. 107億 파라미터를 가진 ‘솔라’를 活用해 로앤컴퍼니, 케이뱅크 等과 함께 法律, 金融 等에 特化된 서비스를 開發하고 있다.

16日 1000億 원에 達하는 시리즈 B 投資 誘致에 成功한 것도 效率的인 企業用 言語모델을 開發할 수 있는 技術力을 인정받았기 때문이다.

最近 業界의 最大 話頭로 떠오른 AI 半導體 供給難과 電力難度 企業들이 小型言語모델에 集中하는 理由다. 업스테이지 關係者는 “現在 小型言語모델은 大型言語모델과 性能이 類似하면서도 學習 및 구동 費用이 10分의 1 水準으로 낮다”며 “데이터를 학습시키는 時間과 費用을 節減할 수 있다는 것이 小型言語모델의 가장 큰 長點”이라고 말했다.

美 스탠퍼드대 人間中心AI硏究所의 ‘AI 인덱스 2024’에 따르면 1兆 個 以上의 파라미터로 推算되는 오픈AI ‘GPT-4’의 訓鍊 費用은 約 7835萬 달러(藥 1077億 원)였지만 70億 파라미터 水準의 메타 ‘라마2’ 訓鍊 費用은 約 393萬 달러(藥 54億 원)에 不過했다.

國內 通信使들도 小形化에 注目하고 있다. KT는 2100億 個 以上 파라미터를 가진 大型言語모델 ‘믿음’을 70億∼400億 個 水準으로 경량화해 特定 分野에 提供할 計劃이다. LG유플러스_ 上半期 내 公開를 앞둔 言語모델 ‘益視젠’도 小型言語모델로 開發이 進行 中이다.

글로벌 빅테크들도 잇따라 小型言語모델을 公開 中이다. 구글은 앞서 2月 20億∼70億 파라미터 水準의 小型言語모델 ‘젬마’를 發表했다. 지난달 애플은 8000萬∼30億 파라미터를 가진 小型言語모델 ‘렘’을 公開했다. 業界에서는 애플이 아이폰 等에 小型言語모델을 搭載해 인터넷 連結이 必要 없는 ‘온디바이스 AI’ 서비스에 나설 것으로 展望하고 있다. 삼성전자는 온디바이스 AI 스마트폰 ‘갤럭시 S24’에 自體 言語모델 ‘三星가우스’의 一部 機能을 경량화해 搭載했다.



全南革 記者 forward@donga.com

라이프



- "漢字路" 한글한자자동변환 서비스는 교육부 고전문헌국역지원사업의 지원으로 구축되었습니다.
- "漢字路" 한글한자자동변환 서비스는 전통문화연구회 "울산대학교한국어처리연구실 옥철영(IT융합전공)교수팀"에서 개발한 한글한자자동변환기를 바탕하여 지속적으로 공동 연구 개발하고 있는 서비스입니다.
- 현재 고유명사(인명, 지명등)을 비롯한 여러 변환오류가 있으며 이를 해결하고자 많은 연구 개발을 진행하고자 하고 있습니다. 이를 인지하시고 다른 곳에서 인용시 한자 변환 결과를 한번 더 검토하시고 사용해 주시기 바랍니다.
- 변환오류 및 건의,문의사항은 juntong@juntong.or.kr로 메일로 보내주시면 감사하겠습니다. .
Copyright ⓒ 2020 By '전통문화연구회(傳統文化硏究會)' All Rights reserved.
 한국   대만   중국   일본