‘NPU가 核心’ 인텔ㆍAMD, 온-디바이스 AI 競爭 本格化

[IT東亞 강형석 記者] 곳곳에서 人工知能이라는 單語를 쉽게 接할 수 있다. 簡單한 命令만으로 願하는 情報를 알려주거나 創作物을 만들어낸다. 市場 反應도 뜨겁다. 그래픽 處理裝置(GPU)의 人氣와 함께 半導體 企業의 實績은 꾸준히 上昇 中이며 人工知能이라는 單語가 없으면 注目받지 못할 程度가 되었다.

PC 市場도 例外는 아니다. 人工知能을 배우거나 學習 等을 위해 高性能 中央處理裝置와 그래픽카드 需要가 꿈틀거리고 있다. IT 市場分析 및 컨설팅 機關인 韓國 IDC의 資料에 따르면 國內 PC 出荷量은 約 480萬 臺로 지난해 對比 17% 減少했으나 온디바이스 人工知能(AI)에 對한 關心이 PC 市場에 肯定的 모멘텀으로 作用할 것이라 展望했다. 그만큼 人工知能에 對한 期待感이 크다는 것을 말해준다.

다만 人工知能 裝備는 그래픽 處理裝置에 集中되어 있다. 인텔, AMD, 엔비디아 모두 그래픽 處理裝置를 내놓았지만 比較的 빨리 人工知能 分野에 뛰어든 엔비디아에 視線이 몰리는 狀況. 이에 中央處理裝置를 開發하는 인텔과 AMD는 變化하는 時代에 맞춰 새로운 카드를 들고 競爭을 펼치고 있다.

‘神經處理裝置(NPU)’가 뭐길래?

只今까지 PC 시스템의 軸을 이끄는 處理裝置를 꼽는다면 中央處理裝置(CPU), 그래픽 處理裝置(GPU)가 있다. 基本的으로 데이터 處理 命令語가 入力되면 메모리를 거쳐 各 處理裝置의 코어가 이를 演算한 後 結果를 出力하는 形態다. 過去에는 이 命令語를 順次的으로 處理했다면 現在는 負荷에 따라 柔軟하게 對處해 效率性을 높인 點이 다르다.

半面 神經處理裝置(NPU)는 처음부터 많은 데이터를 빠르게 處理하는데 特化된 設計를 갖는다. 辭典에 定義된 데이터를 學習해 結果를 내는 머신러닝(Machine Learning)李 아닌 大規模 데이터에서 스스로 學習하는 딥러닝(Deep Learning)에 더 유리한 形態다. 神經處理裝置는 人工知能 處理에 必要한 制御와 算術 論理 構成 要素를 바탕으로 한다. 데이터를 竝列 處理하는 것은 그래픽 處理裝置와 같지만, 學習과 深化 學習 알고리즘을 實行 時 더 빠른 結果 導出이 可能하다.

PC 시스템은 이런 部分을 中央處理裝置, 그래픽 處理裝置가 도맡아 왔다. 칩 안에 數千, 數萬 個에 達하는 命令語 處理裝置(코어)로 多數의 데이터를 한 番에 處理하는 그래픽 處理裝置가 注目받기 始作한 것도 이 때문이다. 하지만 두 裝置는 큰 空間을 차지할 뿐만 아니라, 많은 電力을 쓴다. 一般的인 高性能 中央處理裝置가 100~200W 사이, 高性能 그래픽카드 또한 300~400W 假量을 消耗한다.

半面 神經處理裝置를 導入하면 이 部分을 어느 程度 克服할 수 있다. 大規模 演算에 特化된 設計를 바탕으로 不必要한 要素를 없애는 게 可能하다. 칩 안에 자리해 內部의 入出力 資源을 使用하는 形態로 構成되기에 電力消耗量이 적다. 아직은 그래픽 處理裝置 活用度가 높지만, 神經處理裝置는 모바일用 中央處理裝置를 中心으로 빠르게 導入되면서 자리를 잡아가는 中이다.

인텔ㆍAMD, 中央處理裝置에 神經處理裝置 導入 ‘온-디바이스 AI 競爭’

人工知能 演算을 그래픽 處理裝置에 依存하던 PC 市場에 變化가 생겼다. 인텔, AMD가 中央處理裝置 內에 神經處理裝置를 集積하면서다. 인텔은 새로 開發한 모바일 PC用 中央處理裝置 ‘코어 울트라(Core Ultra)’부터, AMD도 ‘라이젠(Ryzen) 7040’ 系列을 始作으로 適用 範圍를 擴大하고 있다. 바야흐로 PC版 ‘온-디바이스 人工知能(On-Device AI)’ 競爭이 本格化된 模樣새다.

機器 自體에 人工知能 處理가 可能한 裝置를 온-디바이스 人工知能라 부른다. 우리가 使用하는 人工知能 서비스 大部分은 온라인 連結이 이뤄져야 한다. 大規模 人工知能 데이터 學習이 이뤄진 데이터센터를 통해 結果를 받기 때문이다. 이와 달리 온-디바이스 人工知能은 機器 內에서 데이터를 處理하기 때문에 結果 電送에 따른 遲延 時間이 줄고 다양한 方法으로 活用하는 것도 可能하다.

무엇보다 PC 시스템 自體를 柔軟하게 構成할 수 있다는 長點이 있다. 中央處理裝置만으로 人工知能 處理가 可能하니 그래픽 處理裝置는 選擇事項이 된다. 前歷과 부피를 同時에 줄이거나 費用에 對應하는 等 PC 選擇의 幅이 커진다. 現在 神經處理裝置가 適用된 프로세서는 主로 노트북 PC에 쓰이는 모바일 칩에 集中되어 있지만, 向後 市場 狀況에 따라 데스크톱用 칩으로 擴大될 可能性이 높다.

인텔 코어 울트라에 適用된 神經處理裝置는 約 34TOPS(秒當 兆 演算) 水準의 性能을 提供하는 것으로 알려져 있다. 여기에 어도비, 줌, 돌비, 시스코 等 100餘 企業과 協業해 다양한 소프트웨어에서 神經處理裝置가 介入할 수 있도록 準備하고 있다. 윈도우 11 運營體制에 導入된 다이렉트ML을 빠르게 適用하기도 했다.

AMD는 約 38TOPS 程度의 性能으로 相對的 優位를 占하고 있다. 그러나 經驗도 重要하기에 어도비를 包含해 메타, 블랙매직 디자인 等과 協業하는 部分을 强調하고 있다. 다만 神經處理裝置가 搭載됐어도 윈도우 11 運營體制 內에서는 아직 情報를 確認할 수 없는 狀況이다. AMD는 빠른 時日 內에 윈도우 11 運營體制에서도 裝置를 쓸 수 있도록 支援할 豫定이다. 또한 라이젠 7040 製品群의 次期 칩을 빠르게 선보여 競爭 優位를 가져간다는 計劃이다.

온-디바이스 人工知能 分野를 놓고 인텔과 AMD가 本格的인 힘겨루기에 突入했지만, 市場은 아직 그래픽 處理裝置를 더 選好하는 雰圍氣여서 흐름을 돌리기에는 準備가 더 必要해 보인다. 온-디바이스 人工知能은 特히 個人 經驗이 重要하다. 온라인 서비스가 아니라 機器 內 設置된 소프트웨어 環境 內에서 人工知能關聯 機能이 具現되어야 重要性을 認知한다. 따라서 두 除朝辭의 소프트웨어 支援 規模가 勝敗를 左右할 것으로 豫想된다.

글 / IT東亞 강형석 (redbk@itdonga.com)