‘엔비디아ㆍAMD’ 人工知能 生態系 競爭, 이제 始作이다

[IT東亞 강형석 記者] 人工知能 分野에서는 엔비디아가 斷然 앞서 있다고 評價된다. 過去 그래픽카드의 竝列 年産 能力 優位를 强調하며 다양한 裝備를 準備해 왔기 때문이다. 現在는 H100이 主力으로 꼽힌다. A100度 있지만, 암페어(Ampere) 設計 構造로 H100의 호퍼(Hopper) 大妃 한 世代 以前 技術을 담고 있다. 現在 H100度 向後 次期 製品인 H200 或은 B100에게 자리를 내어 줄 豫定이다.

앞서가는 엔비디아지만, 競爭者도 다양한 武器를 앞세워 追擊 中이다. 代表的으로 그래픽 處理裝置(GPU) 分野에서 競爭해 온 AMD가 있다. 最近 인스팅트 MI300 시리즈를 선보이며 競爭에 나선다. 처음 선보이는 製品은 아니다. 過去에도 MI100과 MI200 等 竝列 演算이 必要한 環境에 對應해 왔지만, MI300은 人工知能 및 超高性能 컴퓨팅(빅데이터)에 맞춰 다듬었다. 本格的인 競爭 體制에 突入한 것이다.

엔비디아 vs AMD, 하드웨어 特性은 다르지만 接近 方法은 같아

엔비디아는 2007年, 漸漸 複雜해지는 그래픽 演算 環境에 맞춰 쿠다(CUDA) 코어를 開發했다. 하드웨어 集積度 向上에 따라 코어 數는 빠르게 늘었는데, 이와 함께 지포스 RTX 시리즈에 와서는 人工知能과 光線追跡(레이 트레이싱)만 專門으로 處理하는 코어를 追加해 넣었다. 이것이 엔비디아가 人工知能 하드웨어로 빠르게 成長할 수 있었던 契機였다고 해도 過言이 아니다.

H100의 호퍼 設計 構造는 旣存 엔비디아 그래픽 處理裝置 設計를 人工知能 環境에 맞춘 形態다. 基本 코어 안에는 精髓(INT32)와 單ㆍ倍精密度(FP32ㆍFP64)를 處理하도록 構成됐다. 追加로 4世代 텐서코어가 配置되어 不足한 部分을 돕는다. 텐서코어는 行列의 演算을 한 番에 遂行하는 것이 特徵이다. 또한 非同期 演算을 支援하는데 이는 演算이 順次的으로 處理되는 게 아니라 負荷에 따라 柔軟하게 處理됨을 의미한다.

AMD도 構造는 類似하다. 過去 그래픽 프로세서 設計를 演算에 特化된 構造로 바꿨다. 다만 그래픽 處理에 必要한 블록이 除去되고 모두 演算에 必要한 블록으로 代替했다. 따라서 旣存 컴퓨트 유닛이라 부르는 코어가 2倍 擴張됐고 데이터를 柔軟하게 다루고자 豫備와 主 메모리의 容量 等을 크게 키웠다. 行列과 텐서 演算을 위해 別途의 매트릭스 코어(Matrix Core)를 構成한 點이 特徵이다.

人工知能 加速을 위한 칩은 이와 同一하고 빅데이터 處理를 겸하는 裝備는 構造가 多少 다르다. 엔비디아는 H100 加速裝置와 함께 그레이스 設計가 反映된 ARM 基盤 中央處理裝置가 짝을 이룬다. 이를 多數 配置함으로써 大規模 데이터 處理에 힘을 싣는다.

反面 AMD는 人工知能 加速 칩에 中央處理裝置를 함께 配置한다. 人工知能 處理에 必要한 코어가 一部 줄어들지만, 그 자리를 代身해 24코어를 갖춘 젠(Zen) 4 基盤 適用된 中央處理裝置가 集積된다. ARM 基盤이 아닌 一般 x86 中央處理裝置라 다양한 環境에 對應 可能하다.

이렇게 構造는 다르지만, 志向하는 目標는 같다. 最大限 많은 演算을 柔軟하게 다루는 것이다. 現在 斜陽으로 놓고 보면 두 裝置는 各各 一長一短은 있다. 다만 엔비디아는 市場 先占을 빨리했기에 全般的인 性能 檢證이 이뤄졌으나 AMD는 이 部分에서 더 많은 努力이 必要한 狀況이다.

하드웨어도 重要하지만, 眞짜는 소프트웨어에 있다

엔비디아와 AMD 모두 竝列 컴퓨팅 處理裝置 設計에 對해서는 많은 經驗을 가진 企業이다. 따라서 新製品 出市 週期에 따른 性向 差異는 있어도 性能 部分에 있어서는 差異가 줄어들 可能性이 높다. 性能에서 큰 差異를 보이지 않는다면 結局 하드웨어의 價値와 成功을 가늠하는 것은 소프트웨어다. 하드웨어가 最高의 性能을 낼 수 있도록 支援과 維持補修 等이 必要하다.

엔비디아는 이 部分에 있어 폭넓은 솔루션을 提案하고 있다. 于先 쿠다(CUDA)-X 人工知能(AI)은 쿠다 命令語를 바탕으로 다양한 라이브러리 컬렉션을 提供한다. 竝列 컴퓨팅이 막 擡頭되던 時期부터 使用한 命令語를 環境에 맞춰 발전시킨 것으로 엔비디아의 强力한 武器 中 하나로 꼽힌다. 이 外에 엔터프라이즈 分野에서 人工知能을 위한 運營體制인 人工知能 엔터프라이즈(AI Enterprise), 企業이 假想空間 內에서 미리 結果를 얻을 수 있는 옴니버스(Omniverse) 等도 잘 알려진 소프트웨어들이다.

AMD는 人工知能 處理 道具와 모델, 라이브러리 等을 모은 ROCm을 前面에 내세웠다. 巨大 言語 모델부터 다양한 演算 推論 等 人工知能 데이터 處理에 必要한 道具를 담았다. 開發을 위한 生態系 構築도 꾸준히 업데이트하면서 完成度를 높여가는 中이다. 무엇보다 이 分野에서는 開發者들이 命令語 互換性을 敏感하게 본다. 새로 構築하고 그 過程에서 發生하는 問題에 對備하기에 時間이 오래 걸린다는 理由가 크다. AMD도 이 部分에 對應하기 위해 開發者 커뮤니티와 다양한 人工知能 오픈소스 開發社와 協業한다.

人工知能 市場은 빠르게 成長하고 있다. 글로벌 市場調査企業 IDC에 따르면 2027年 全 世界 生成型 人工知能 市場 規模가 約 1500億 달러 以上으로 내다봤다. 市場이 成長함에 따라 自然스레 關聯 하드웨어 需要도 增加할 것으로 豫想된다. 엔비디아와 AMD의 競爭은 이제부터 始作인 것이다.

글 / IT東亞 강형석 (redbk@itdonga.com)