엔비디아가 3月 18日(現地 時間) 美國 캘리포니아州 새너제이 SAP센터에서 ‘GTC(GPU Technology Conference) 2024’를 열었다. 젠슨 黃 엔비디아 最高經營者(CEO)는 이番 콘퍼런스에서 ‘풀 스택(full stack)’으로 人工知能(AI) 플랫폼을 만들겠다고 强調했다. 엔비디아가 單純 GPU(그래픽處理裝置) 供給에서 벗어나 모든 領域의 AI 技術과 서비스를 토털로 提供하겠다는 것이다. 그러면서 한 次元 업그레이드된 새로운 아키텍처(하드웨어와 소프트웨어를 包含한 컴퓨터 시스템 全體 設計 方式) ‘블랙웰’을 公開했다. ‘GTC 2024’ 以後 글로벌 投資銀行 골드만삭스는 엔비디아 目標株價를 1000달러(藥 134萬 원)로 上向했으며, 市場은 SK하이닉스, 삼성전자, 마이크론 等 國內外 高帶域幅메모리(HBM) 業體들이 受惠를 입을 것이라는 展望을 쏟아내고 있다. 엔비디아가 AI 플랫폼 企業으로 거듭난다면 어떤 企業이 最大 受惠를 받을까. 3月 25日 이형수 HSL파트너스 代表를 만나 엔비디아 ‘GTC 2024’를 分析하고 受惠 企業을 알아봤다.
엔비디아, AI 플랫폼 企業으로 거듭나
엔비디아 ‘GTC 2024’에서 가장 注目할 點은 무엇인가.
“엔비디아가 ‘GTC 2024’를 통해 AI 토털서비스 企業으로 거듭나겠다고 밝힌 것이다. 單純 GPU 供給을 넘어 데이터센터에 아파트같이 들어선 ‘래크(rack)’를 供給하고 소프트웨어까지 提供한다는 計劃이다. 소프트웨어로는 開發者 生態系인 ‘쿠다(CUDA)’뿐 아니라, 로봇이나 自律走行車 開發에 使用되는 디지털 트윈 基盤 시뮬레이션 테스트 ‘옴니버스’도 提供한다. 엔비디아 製品을 쓰면 AI가 全部 解決되는 式이다. AI 革命에서 엔비디아가 底引網式으로 싹쓸이에 나섰다.”
쿠다는 AI 開發者들이 프로그래밍을 위해 使用하는 소프트웨어로 2006年 開發됐다. 지난 18年間 AI 開發者들이 쿠다만 使用해 프로그래밍하다 보니 ‘쿠다 生態系’가 만들어졌다. 무엇보다 쿠다로 만든 프로그램은 엔비디아 GPU에서만 돌아간다. 이런 理由로 現在 엔비디아가 AI 市場을 獨占할 수밖에 없는 狀況이다.
엔비디아가 ‘GTC 2024’에서 公開한 블랙웰은 어떤 製品인가.
“블랙웰은 有名한 美國 黑人 數學者 이름을 따서 만든 엔비디아의 새로운 아키텍처다. 블랙웰에는 다양한 長點이 있는데, 가장 큰 强點은 連結性이다. 他社 GPU는 다른 칩과 連結할 때 커뮤니케이션 速度가 떨어지는데, 블랙웰은 다른 칩과 連結해도 速度가 빠르다. 또한 元來 3㎚ 工程으로 TSMC가 生産할 것으로 豫想됐으나, 4㎚로 生産된다고 한다.”
블랙웰 아키텍처가 適用된 AI 칩은 歷代 最大인 2080億 個 트랜지스터가 集約됐다. 旣存 H100은 800億 個 트랜지스터로 이뤄졌다. H100과 比較해 年産 速度가 2.5倍 빠르다. 블랙웰 플랫폼은 4㎚ 칩 다이 2個를 칩렛(Chiplet) 技術로 하나로 엮어 單一 칩처럼 作動하며, HBM을 强化해 性能을 높였다.
엔비디아는 블랙웰을 公開하면서 그레이스 CPU(中央處理裝置)와 함께 使用할 수 있다는 點을 强調했다.
“엔비디아는 B200 2個와 그레이스 CPU를 連結한 슈퍼칩 GB200度 出市할 豫定이다. 이 칩은 旣存 H100에 비해 性能이 最大 30倍 向上됐다. 또한 엔비디아는 그레이스 CPU 36個와 블랙웰 72個를 하나의 래크 形態로 묶어 ‘GB200 NVL72’ 컴퓨팅 유닛으로 市場에 供給한다는 計劃이다.”
엔비디아는 마이크로소프트(MS)나 애플 같은 플랫폼 企業으로 거듭나겠다며 소프트웨어 購讀 모델 ‘NIM’도 發表했는데.
“AI 서버를 만들려면 個當 4萬 달러(藥 5390萬 원) 程度 하는 GPU 8個가 必要하다. 하지만 벤처企業은 그만큼 資金이 없다. 엔비디아는 이런 企業들을 위해 GPU 個當 年間 4500달러(藥 606萬 원)를 내면 AI 서버는 勿論, 시뮬레이션 서비스까지 利用할 수 있는 購讀서비스 ‘NIM’을 出市할 計劃이다. 比較하자면 淨水器를 팔다가 이젠 淨水器 렌털 서비스까지 하는 셈이다.”
黃 CEO의 事業 手腕이 남다른 것 같다.
“皇 CEO가 이番 AI 革命 사이클에서 時體말로 제대로 뽑아먹고 있다. 現在 엔비디아는 AI 서버用 GPU 市場을 獨占 中인데, 이 獨占이 깨지더라도 繼續 成長할 수 있는 시나리오까지 짜고 있다.”
三星 파운드리 3㎚ 選擇 못 받아
엔비디아는 왜 블랙웰을 3㎚에서 4㎚ 工程으로 變更했나.
“TSMC의 3㎚ 工程이 이미 꽉 차 있기 때문이다. 올해 TSMC는 애플 맥북龍 프로세서 M4와 아이폰 AP 頭腦 칩 等에 들어가는 NPU 等을 3㎚ 工程으로 生産하는데, AI가 加速化되면서 칩 面積이 豫想보다 50%假量 늘어났다. 그 餘波로 블랙웰을 TSMC의 3㎚ 工程에서 生産하지 못하게 되자 4㎚ 工程으로 變更한 것으로 보인다.”
엔비디아가 三星電子 파운드리 3㎚ 代身 TSMC의 4㎚를 選擇했다는 얘기인데.
“엔비디아나 AMD 같은 業體들이 아직 三星電子 파운드리 3㎚ 工程을 信賴하지 못하는 것 같아 안타깝다. 三星電子 파운드리는 3㎚ GAA(게이트 올 어라운드)로 勝負手를 던졌는데 顧客社 反應을 보면 神通치 않은 것 같다. 反面 三星電子 파운드리 4㎚는 顧客 誘致 狀況이 좋다. 다만 未來를 생각하면 三星電子 파운드리는 GAA가 成長해야 한다.”
블랙웰 出市로 三星電子, SK하이닉스, 마이크론 等 HBM 3社의 競爭이 激化되는 樣相이다.
“3巴戰으로 보이지만 아직까지는 SK하이닉스 獨走다. 現在 5世代 HBM 一部 物量을 마이크론이 供給 中이고, 下半期에 마지막으로 삼성전자가 本格的으로 納品을 始作할 것으로 보인다.”
엔비디아가 三星電子의 5世代 HBM3E를 檢證하고 있다던데.
“皇 CEO가 ‘GTC 2024’에서 三星電子 HBM3E에 ‘젠슨 承認(JENSEN APPROVED)’이라고 사인해 話題를 모았지만, 現在 삼성전자는 엔비디아에서 HBM3E 테스트를 받고 있다. 엔비디아 立場에서는 三星電子가 5世代 HBM3E를 꼭 量産해야 하는 狀況이라 이런 제스처까지 한 것으로 보인다. 엔비디아의 AI 서버用 GPU 供給 不足은 TSMC의 2.5D 패키징 캐파(生産能力)가 不足했기 때문이다. 그런데 最近 TSMC가 攻擊的으로 投資하고, 一部 物量을 인텔이 받아가면서 甁목이 풀리고 있다. 또한 인터胞阻와 HBM, 基板 等을 붙이는 後工程은 臺灣 ASE와 美國 앰코테크놀로지 等 OSAT(半導體 組立·테스트 外注) 企業이 一部 맡으면서 供給 不足이 解決되고 있다. 남은 건 SK하이닉스가 獨占 中인 HBM이다. 엔비디아 立場에서는 SK하이닉스만큼 生産할 수 있는 三星電子가 빨리 HBM3E를 量産해야 HBM 供給 不足이 解決되는 것이다.”
마이크론은 엔비디아에 HBM3E를 供給하기 始作했다고 밝힌 바 있다.
“마이크론이 生産을 始作했지만 올해 마이크론의 HBM 豫想 賣出은 7億 달러(藥 9429億7000萬 원)에 不過하다. SK하이닉스의 올해 HBM 賣出이 10兆 원 程度로 展望되니 10分의 1 水準이다. 마이크론은 인텔과 손잡고 次世代 메모리 ‘3D X포인트’를 開發하는 渦中에 HBM이 次世代 메모리로 자리매김했다. 그만큼 마이크론은 HBM을 充分히 準備하지 못했고, 生産量 또한 많지 않다.”
SK하이닉스는 HBM3E를 世界 最初로 量産해 3月 末 엔비디아에 納品한다.
“엔비디아는 2分期에 出市하는 H200에 HBM3E를 넣을 計劃이다. 또한 블랙웰 아키텍처부터 HBM3E가 基本으로 들어간다. 따라서 SK하이닉스는 스케줄上 只今부터 量産에 들어가야 한다. 當分間 SK하이닉스가 HBM3E의 相當 部分을 納品하고, 一部 物量을 마이크론과 三星電子가 擔當할 것으로 보인다.”
HBM 3社 가운데 技術力에서 앞선 企業은 어디인가.
“現在 HBM3E를 제대로 量産하는 企業은 SK하이닉스가 唯一하고 生産 收率도 70% 程度로 가장 앞서 있다. 마이크론과 三星電子는 收率이 20~30% 水準으로 推定된다. 또한 GPU는 熱이 많이 發散되기 때문에 HBM의 發熱 性能이 重要하다. SK하이닉스는 HBM 全體에 熱을 加해 납땜을 하고, 칩 사이에 液體 形態의 保護財를 넣어 空白을 채우는 MR-MUF(매스 리플로-몰디드 언더筆) 技術로 HBM을 生産해 發熱 性能이 좋다. 反面 삼성전자와 마이크론은 칩 사이에 필름을 層層이 까는 NCF(논 컨덕티브 필름) 方式으로 生産해 열 排出 性能이 떨어진다. 業界에 따르면 SK하이닉스와 他社의 熱 性能은 30%假量 差異가 나는 것으로 나타난다. 필름을 7㎛까지 얇게 하면 SK하이닉스의 發熱 性能을 잡을 수 있는데, 쉽지 않아 보인다.”
三星電子 밸류체인 受惠 可能
當分間 SK하이닉스 獨走가 持續될까.
“올해 初까지 話頭는 獨占이었다. AI 半導體는 엔비디아가, AI 半導體 生産은 TSMC가 獨占이었다. 또한 HBM3는 SK하이닉스가, HBM3를 만드는 데 必要한 本더는 韓美半導體가 獨占이었다. 다만 이제부터는 獨占 構圖가 풀릴 것으로 보인다. ‘GTC 2024’에서 黃 CEO가 ‘只今은 AI 加速器 쪽에서 80~90%가 엔비디아 獨占 狀態인데 앞으로 70%臺까지 내려온다’며 ‘獨占 構圖가 깨진 以後를 準備하기 위해 다양한 서비스를 내놓고 있다’고 말하기도 했다. TSMC의 獨占 構圖도 인텔과 삼성전자 파운드리, OSAT 業體들이 參與하면서 깨지고 있다. HBM 分野도 SK하이닉스 獨占 構圖에 삼성전자, 마이크론이 들어오고 있다.”
그렇다면 投資者들은 어떤 企業을 注目해야 할까.
“엔비디아가 如前히 GPU 서비스를 强化하고 있지만 漸次 獨占이 깨진다면 自體 設計 칩이 많아지게 된다. 이 境遇 設計 툴을 提供하는 企業이나 IP를 提供하는 ARM, 램버스 같은 會社가 短期的으로 有望할 것으로 보인다. 國內에서는 相對的으로 疏外받고 있는 三星電子 밸류체인이 受惠를 볼 수 있다. 원익IPS, 有進테크, 디엔에프 같은 會社다.”
엔비디아가 世界 時價總額 1位가 될 수 있다는 展望도 나온다.
“엔비디아는 現在 世界 時價總額 3位로, 2位인 애플을 곧 넘을 것으로 보인다. 長期的으로 時價總額 1位 마이크로소프트도 넘을 可能性이 充分하다. 엔비디아가 GPU 供給社에서 AI 플랫폼 企業으로 레벨 業했기 때문이다.”
*유튜브와 포털에서 各各 ‘매거진東亞’와 ‘투벤저스’를 檢索해 팔로剩하시면 記事 外에도 動映像 等 多彩로운 投資 情報를 만나보실 수 있습니다.
