엔비디아 GTC 2024 開催, ‘블랙웰’과 ‘NIMS’로 人工知能 生態系 强化 나선다

[IT東亞 강형석 記者] 2024年 3月 18日, 歲너제이 SAP 센터(美國 캘리포니아 所在)에서 젠슨 黃(Jensen Huang) 엔비디아 CEO의 基調演說을 始作으로 GTC 2024街 幕을 올렸다. GTC는 엔비디아가 每年 進行하는 컨퍼런스로 그래픽 處理 關聯 技術을 包含해 人工知能, 加速 컴퓨팅, 데이터 科學, 데이터 센터 等 多樣한 分野를 다룬다. 特히 엔터프라이즈 市場을 겨냥한 新製品과 技術을 公開하는 자리여서 市場의 關心度가 높다.

GTC 2024는 投資者 立場에서도 注目度가 높은 行事로 꼽힌다. 2022年 10月 以後 꾸준히 右上向海 온 엔비디아가 그 모멘텀을 이끌어갈 수 있는지가 이番 行事를 통해 決定될 可能性이 높다고 봤기 때문. 現在 엔비디아 株價는 지난 3月 8日, 974 달러(원貨 換算 約 130萬 4,070원)를 記錄한 以後 특별한 價格 움직임이 없는 狀態다.

젠슨 黃 CEO는 그의 象徵과도 같은 검은 가죽 재킷을 입고 登場했다. 그는 “놀라운 일이 벌어지고 있다. 컴퓨팅의 根本的인 變化가 産業에 影響을 주고 있다”면서 2006年에 엔비디아가 提案한 쿠다(CUDA ? Compute Unified Device Architecture)를 言及했다.

쿠다는 엔비디아가 그래픽 處理 過程의 效率化와 性能 向上을 考慮해 開發한 命令語로 當時 페르미(Fermi) 設計에 基盤한 지포스 GTX 400 시리즈 以上 그래픽카드에 適用되기 始作했다. 칩 안에 多數의 쿠다코어를 構成하고 데이터를 竝列로 處理해 性能을 높일 수 있었다. 以後 이 構造가 大規模 데이터 處理에 能하다는 것이 알려졌고 現在 人工知能 處理에 쓰일 程度로 發展했다.

쿠다와 컴퓨팅 産業 發展에 對해 言及한 젠슨 黃 CEO는 컴퓨팅의 다음을 言及했다. 그리고 次世代 人工知能 加速裝置이자 그래픽 處理裝置(GPU)인 블랙웰(Blackwell)을 公開했다.

次世代 人工知能 加速裝置 ‘블랙웰’ 公開

젠슨 黃 CEO는 “호퍼는 世上을 바꿨지만, 持續 可能한 컴퓨팅을 위해서는 더 큰 칩이 必要하다”라며 次世代 人工知能 演算裝置 코드名 블랙웰을 公開했다.

블랙웰은 數學者 데이비드 블랙웰(David Harold Blackwell)에서 따왔다. 統計, 게임 理論 및 情報 理論을 專門으로 다룬 美國의 통계학자이자 數學者로 알려져 있다. 엔비디아는 그間 自社의 칩 코드名을 數學者, 物理學者 等의 이름에서 採擇해왔다. H100의 코드名人 호퍼度 코볼의 어머니이자 컴퓨터 科學者였던 美 海軍 提督 그레이스 호퍼(Grace Hopper)에서 由來한 것이다.

블랙웰의 製品名은 B200이다. 엔비디아는 이番 칩을 獨特하게 構成했다. 2個의 칩을 하나로 構成한 것이다. 德分에 칩은 호퍼의 2倍 假量으로 巨大해졌으나 處理 速度는 크게 높일 수 있었다. 칩 옆에는 데이터를 빠르게 주고받을 수 있도록 192GB 容量의 HBM3e 메모리를 配置했다. 엔비디아는 H100 對比 最大 30倍 性能 向上을 이뤘다고 說明한다.

블랙웰은 호퍼 對比 큰 幅의 性能 向上이 이뤄졌음을 强調한다. 特히 B200에는 2世代 트랜스포머 엔진이 適用됐는데 FP4, FP6 單位의 不動小數點 演算 機能이 새로 追加됐다. 旣存에는 半精密度(FP16) 以下의 不動小數點 演算을 FP16 處理 코어에서 直接 處理했기에 效率이 떨어지는 部分이 있었지만, 이番에는 코어 1個가 占有하는 構造를 어느 程度 改善했을 것으로 豫想된다.

젠슨 黃 CEO는 “두 칩을 하나로 構成했지만, 憂慮하는 性能 低下는 없을 것”이라고 强調했다. 두 칩 사이를 秒當 10 테라바이트(TB/s)의 帶域幅으로 移動하며 메모리와 캐시 使用에도 問題가 없다고 덧붙였다.

GB200은 2個의 B200 칩과 그레이스(Grace) 設計 構造의 中央處理裝置가 하나로 構成된 形態다. 그레이스 處理裝置는 ARM 設計를 바탕으로 電力消耗는 낮추면서 最適의 性能을 내는데 焦點이 맞춰져 있다. 무엇보다 構造를 單純하게 만들어 크기를 大幅 줄인 것이 印象的이다. 制限的인 데이터센터 내 空間에 많은 裝置를 構成, 性能과 效率을 높이는 方向으로 設計가 이뤄졌음을 알 수 있다.

하드웨어와 소프트웨어로 엔비디아 AI 生態系 構築 强調

젠슨 黃 CEO는 基調演說에서 次世代 人工知能 加速處理裝置 公開 外에도 디지털 트윈에 對한 事例와 로보틱스, 人工知能 發展 等에 對해 言及했다. 그는 “우리는 많은 것을 디지털化하고 있다. 構造가 있는 限 모든 것을 디지털화할 수 있다. 生成型 人工知能 革命은 只今부터”라고 말했다.

엔비디아는 人工知能을 積極 活用해 데이터 科學, 헬스케어 等 廣範圍한 分野에 適用되도록 準備했고 同時에 엔비디아 推論 마이크로서비스(NVIDIA Inference Microservice)를 提案했다. 오픈 소스로 事前 訓鍊된 人工知能 모델을 패키지로 提供, 最適의 結果를 導出하는 方式이다. 自社가 開發한 컴퓨터 言語 쿠다(CUDA) 基盤으로 作動한다.

엔비디아 推論 마이크로서비스는 엔비디아의 生態系 掌握力을 높이는데 큰 役割을 할 展望이다. 開發者들이 主로 使用하는 라이브러리와 互換性을 最大限 提供하고, 選好하는 大規模 言語 모델 프로그래밍 프레임워크를 使用해 作業도 可能하다. 몇 줄의 코드만 入力하는 것으로 該當 서비스를 利用할 準備가 完了된다. 젠슨 黃 CEO는 “NIMS(엔비디아 推論 마이크로서비스)가 모든 것을 實行한다”고 말했다.

디지털과 物理的 環境을 連結, 産業의 디지털 轉換을 支援하는 옴니버스(Omniverse) 플랫폼은 事例가 더욱 늘었다. 옴니버스는 實際 結果物을 내기 前에 假想 環境 內에서 미리 確認하고 現實에서의 問題를 最少化하는 過程을 支援한다. 例로 實際 工場을 建設하기 前에 假想의 工場을 만들어 實際 運用에 問題가 없는지 試驗하거나 倉庫를 假想으로 만들어 效率을 豫想해 볼 수 있다. 엔비디아는 옴니버스 클라우드와 애플리케이션이 더욱 單純하게 結合되는 것을 目標로 한다.

로보틱스 技術은 더욱 强力하게 進化했다. 트랜스포머 엔진이 適用된 엔비디아 젯슨 플랫폼과 아이작 시뮬레이션(Issac Sim) 패키지 等을 組合해 人間에 가까운 로봇 움직임을 具現해 나가는 中이다.

엔비디아는 새로운 産業 革命을 多數 提案했다. 加速 컴퓨팅을 活用한 生成型 人工知能, 블랙웰 플랫폼, 엔비디아 推論 마이크로서비스, 엔비디아 人工知能 파운드리, 옴니버스와 아이작 로보틱스 等이다. 하지만 아직 市場의 呼應은 없는 狀況이다. 美國 基準 3月 18日, 엔비디아 株價는 以前 對比 0.7% 上昇한 884.55 달러(원貨 換算 約 118萬 4,300원)에 마감했다.

글 / IT東亞 강형석 (redbk@itdonga.com)