[單獨] 프라사드 칼野나라만 AWS 副社長 "向後 인프라 投資 方向, 顧客이 願하는 대로" [AWS 리인벤트 2023]

[라스베이거스=IT東亞]

“AWS가 提供하는 資源의 90% 以上이 顧客들이 願하는 것에 맞춰져 있다. 顧客이 特定 基盤 모델에 對해 얘기한다면 그것을 選擇하고, 멀티모달이나 텍스트 베이스 모델 等을 願한다면 모델의 多樣性에 對해 投資할 것이다. 리인벤트는 어떻게 特定 서비스를 더 簡素化하고, 影響力을 가져갈 수 있는지를 確認할 수 있는 자리다”

프라사드 칼野나라만(Prasad Kalyanaraman) AWS 글로벌 인프라 서비스 副社長에게 來年의 投資 方向에 對해 묻자 돌아온 對答이다.

그가 이끌고 있는 AWS 글로벌 인프라 서비스는 全 世界 32個 地域(리전)에 102個 以上의 可溶性 領域, 그리고 550個 以上의 接續 地點을 提供한다. AWS가 提供하는 클라우드 資源은 背景에 對해 說明하자면 AWS가 提供하는 클라우드는 리전(Region)이라는 地域的 單位로 區分되며, 該當 地域 內에 物理的인 서버가 存在한다. 인프라 서비스는 이 서버에 對한 管理 및 서비스를 遂行하며, 프라사드 칼野나라만 AWS 인프라 서비스 副社長은 이 過程이 圓滑하게 提供될 수 있도록 물類 및 供給網 管理, 運營 等을 擔當하고 있다.

2005年부터 AWS에서 勤務한 칼야나라만은 供給網 最適化와 機敏한 解決 方案 提示, 擴張性 및 製品 管理 分野 等에 걸친 經驗을 갖고 있고, 이를 活用해 유틸리티 컴퓨팅 및 네트워크 서비스의 效率化를 支援한다. 또한 AWS 마켓플레이스 ISV와 같은 솔루션과 아키텍처 維持 管理 等의 業務도 맡고 있다. IT東亞에서 프라사드 칼野나라만 AWS 副社長과 單獨 인터뷰를 進行했다.

“NPU, FPGA, RISC-V도 顧客이 必要하면 마련할 것”

于先 그에게 올해, 그리고 來年 投資의 方向性에 對한 質問부터 던졌다. 프라사드 칼야나라만은 “올해, 그리고 來年 인프라 서비스 投資의 方向은 大體로 生成型 AI와 맞물려있다. 올해 基調演說에서 公開된 그라비톤 4, 트레이니嚴 2 칩, 아마존 S3 클라우드까지도 모두 生成型 AI 需要에 對應하기 위한 製品들이다”라며 投資 方向을 說明했다.

또한 90% 以上의 投資는 모두 顧客 中心的인 決定이라는 點도 强調했다. 그는 “AWS의 生成型 AI 戰略은 인프라스트럭쳐 階層이 있고, 그 위에 大型言語모델(LLM) 階層, 最上位에 애플리케이션 레이어가 있다. 인프라 投資 亦是 이와 櫃를 같이한다”라면서, “따라서 顧客들의 要請이 커진다면 서드파티 브랜드의 NPU, ASIC, FPGA, RISC-V까지도 AWS 인프라에 導入할 수 있다. 엔비디아의 GH200 그레이스호퍼 슈퍼칩 亦是 같은 脈絡에서 導入한 것이다”라고 말했다.

現在 AWS는 CPU와 GPU 等 인프라의 核心 資産을 內在化하고 있으나, 業界에서 主로 使用되는 인텔 및 AMD CPU, 엔비디아 GPU 等의 하드웨어는 別途 인스턴스로 提供하고 있다. 텐스토렌트의 RISC-V나 퓨리오사AI의 NPU도 使用을 願하는 企業이 늘어난다면 AWS로서는 導入하지 않을 理由가 없다는 意味다.

持續可能性·效率 考慮한 冷却方式 轉換도 考慮 中

지난 基調演說에서는 젠슨 黃 엔비디아 最高經營者가 直接 登場해 AWS가 엔비디아 GH200을 導入한다는 消息을 傳했다. AWS가 엔비디아 GH200 NVL32를 導入하게 되면 自然스럽게 데이터센터에도 液體 冷却 方式을 導入하게 되는 것인데, 液體 冷却 或은 液浸 冷却 等 올해 들어 注目받고 있는 最新 冷却 方式을 인프라 全般에 擴大할 생각이 있는지에 對해 물었다.

프라사드 칼야나라만은 “只今까지 AWS의 데이터센터 디자인은 主로 外部 空氣와 循環하는 프리 쿨링 方式을 導入해 왔다. 하지만 機械學習用 半導體들이 더 많이 必要하게 될수록 液體 冷却도 必要하게 될 것이다”라면서, “一旦은 콜드 플레이트 쿨링을 先制的으로 導入할 豫定이고, 全面的인 液體 冷却, 液浸 冷却 等은 考慮 段階”라고 말했다. 다만 어떤 特定 리전에서 테스트를 하기보다는 必要性이 提起되는 地域부터 導入을 考慮할 것이라고 덧붙였다.

AWS, 삼성전자는 勿論 SK하이닉스로부터도 HBM3 注文

人工知能 半導體의 核心 部品으로 떠오른 HBM3(고대역 메모리)는 어떤 基準으로 選擇하는지를 물었다. HBM3는 삼성전자와 SK하이닉스가 全 世界 市場 占有率의 約 90%를 차지하고 있다. 프라사드 칼야나라만은 “HBM3는 宏壯히 重要한 部品이고, 機械學習 構築에 核心이 된다. 그렇기 때문에 AWS는 三星電子 以外에도 SK하이닉스를 包含한 모든 HBM3 製造社로부터 部品을 받고 있다”라고 말했다. SK하이닉스가 AWS에 HBM3 메모리를 供給한다는 事實이 確認된 건 이番이 처음이다.

마지막으로 프라사드 칼野나라만 副社長은 “AWS에게 있어 韓國은 重要한 市場이며, 三星電子와 넥슨과 같은 大企業들이 우리와 함께하고 있다는 것이 기쁘다. 앞으로도 서울 리전을 통해 많은 顧客들에게 信賴할 수 있는 서비스를 꾸준히 提供하겠으며, 生成型 AI에 對해서도 滿足度 높은 結果를 提供하기 위해 努力하겠다”라고 인터뷰를 마쳤다.

글 / IT東亞 남시현 (sh@itdonga.com)