人工知能(AI)業界에서는 最近 하드웨어 競爭에 불이 붙었다. 現在 人工知能 技術의 先頭走者 格인 구글 ‘알파고’와 IBM ‘왓슨’의 核心 部品이 서로 달라 이들 中 市場 主導權을 잡는 쪽이 人工知能 프로그램뿐 아니라 이를 驅動하는 하드웨어 市場까지 先占할 수 있으리라는 豫測이 나오고 있다. 이에 後發走者인 애플 等도 獨自的 人工知能 專用 하드웨어 開發에 나서고 있다.
IBM 왓슨 等 現在 人工知能 構築에 主로 使用되는 核心 칩은 GPU(Graphics Processing Uint·映像情報 處理裝置)다. 世界 GPU 市場을 獨占하다시피 하는 엔비디아(市場占有率 70%)는 情報技術(IT)業界의 신데렐라로 불린다. 게임 驅動에 主로 쓰이던 GPU가 人工知能 關聯 核心 部品으로 떠올랐기 때문.
GPU가 人工知能 하드웨어市場의 霸權을 잡은 것은 엔비디아가 2006年 出市한 그래픽 프로그래밍 툴킷 쿠다(CUDA) 德分이다. 쿠다는 GPU에서 遂行하는 竝列處理 方式을 一般 프로그래밍에도 適用할 수 있도록 한 技術이었다. 이를 바탕으로 앤드루 응 當時 美國 스탠퍼드대 敎授의 人工知能硏究팀은 2009年 캐나다 몬트리올에서 열린 ‘머신러닝 國際 콘퍼런스’에서 GPU를 통해 多量의 데이터를 同時에 컴퓨터에 학습시키는 原理를 開發했다는 內容의 論文을 發表했다. 이 方式을 利用하면 人工知能이 1億 個 데이터를 學習하는 데 하루밖에 걸리지 않았다.
傳統 强者, GPU
以後 이미지 認識 소프트웨어 競進大會人 ‘2012 이미지넷 競進大會’에서 앨릭스 크리제프스키가 엔비디아의 GPU를 使用해 딥러닝 神經網을 만들어 優勝을 차지했다. 다음 해인 2013年에는 大會에 參加한 400팀 가운데 300팀이 엔비디아 GPU를 使用했고 2014年 以後에는 모든 參加팀이 GPU를 使用한 딥러닝 神經網을 出品했다.
마크 해밀턴 엔비디아 솔루션 아키텍처 및 엔지니어링 部門 副社長은 5月 25日 서울 良才洞 엘타워에서 열린 ‘엔비디아 딥러닝 데이 2017 서울’ 基調演說에서 “現在 人工知能을 本格的으로 다루는 大學이나 企業 硏究所의 硏究는 100% 엔비디아 GPU를 通해 이뤄지고 있다”고 말했다. 구글 알파고度 프로棋士 이세돌 9段과 對局할 當時 GPU를 利用해 만들어진 人工知能이었다.
새로운 市場의 開拓은 會社 價値를 急速度로 키웠다. 2013年 엔비디아 經營實績은 總賣出 41億3000萬 달러(藥 4兆6500億 원)에 營業利益은 25億1000萬 달러(約 2兆8200億 원)였다. 3年 뒤인 지난해 엔비디아 賣出은 69億1000萬 달러(藥 7兆7700億 원)로 67% 上昇했다. 營業利益도 40億6000萬 달러(藥 4兆5700億 원)로 62%假量 늘었다. 株式市場에서도 엔비디아 株價는 지난 한 해 동안 250% 急騰했다. 現在 엔비디아 時價總額은 850億4000萬 달러(藥 95兆6700億 원)에 達한다.
엔비디아가 獨占하던 人工知能칩 市長에 구글이 挑戰狀을 내밀었다. 次世代 人工知能칩인 TPU(Tensor Processing Unit) 開發에 成功한 것. 구글은 每해 열리는 開發者 콘퍼런스인 구글I/O와 世界 最高 바둑棋士 커제와의 大國으로 TPU를 華麗하게 市場에 선보였다.
지난해 이세돌 9段과 對局에서 한 番 敗北한 알파고는 구글이 새로 開發한 하드웨어인 2世代 TPU로 단단히 武裝하고 커제 9段과 3番의 對局에서 完璧한 勝利를 거뒀다. 게다가 이番 對局을 앞두고 알파고는 旣存에 學習한 技保 外 다른 內容을 追加로 學習하는 節次도 거치지 않았다. 알파고는? 自體 學習 機能을 바탕으로 實力을 키워 頂上級 바둑棋士를 꺾은 것이다. 그만큼 TPU의 能力이 뛰어나다는 證據다.
TPU의 成功的인 市場 데뷔 德分인지 구글 母會社 알파벳의 株價도 크게 올랐다. 6月 5日(現地時刻) 알파벳 株價가 1003.88달러(藥 112萬9000원)를 記錄했다. 알파벳 株價는 올해 初 762달러로 始作했지만 6個月 만에 26.7% 急騰한 것.
구글이 開發한 TPU는 구글이 오픈소스로 公開한 人工知能 프로그램의 自家學習(머신러닝 알고리즘) 處理 소프트웨어인 텐서플로(Tensorflow)에 特化된 맞춤型 칩(ASIC·Application Specific Integrated Circuit)이다. 구글은 지난해 5月 1世代 TPU를 公開했다. 1世代 TPU는 IBM 왓슨의 自家學習을 擔當하는 GPU와 CPU의 組合에 비해 높은 性能을 보였다. 1世代 TPU 公開 當時 구글은 컴퓨터 性能評價 基準인 ‘벤치마크 問題(benchmark problem)’ 結果 TPU가 GPU와 CPU의 組合에 비해 15~30倍 높은 自家學習能力을 記錄했다고 밝혔다. 電力 消費 亦是 旣存 칩에 비해 30~80倍假量 적은 것으로 드러났다. 1世代 TPU는 이세돌 9段과 對局에서도 活用됐다.
황철성 서울대 材料工學部 敎授는 “人工知能 딥러닝의 驅動 原理는 基本的으로 微分方程式 풀이를 통해 最適의 값을 算出하는 過程이다. 2次元에 그려진 曲線을 微分하면 1次元 數式으로 單純化해 쉽게 풀 수 있듯, TPU는 3次元에 펼쳐진 情報들을 2次元, 1次元으로 單純化하는 것에 最適化된 칩이라 볼 수 있다. 이에 反해 GPU 體制는 2次元 水準의 單純化를 반복해 3次元 情報를 認識하는 方式이라 TPU에 비해 效率性이 떨어질 수 있다”고 말했다.
슈퍼컴퓨터 부럽지 않은 TPU
이番 커제와 對決에 쓰인 TPU는 1世代보다 더 높은 性能을 지닌 2世代 TPU다. 2世代 TPU 하나에는 이 같은 作業을 擔當하는 算術論理 演算裝置(ALU)가 6萬5536個 搭載됐다. 이 演算裝置들이 竝列的으로 作動하며 問題解決을 하는 方式이다. 最近 구글이 開催한 開發者 콘퍼런스 ‘구글I/O 2017’(現地時刻 5月 17~22日)에서 發表한 바에 따르면 問題黨 하나의 ALU를 使用하는 CPU에 比해 71倍, GPU에 比해 26倍의 데이터 處理 性能을 갖췄다.
구글 브레인팀의 인터넷 블로그에 公開된 바에 따르면 TPU는 여러 個를 묶어 使用할 때 더 뛰어난 性能을 發揮하도록 設計됐다. 구글 側은 블로그를 通해 ‘各各의 TPU에는 맞춤 高速 네트워크가 內裝돼 TPU 팟(TPU Pod)이라는 머신러닝 슈퍼컴퓨터를 構築할 수 있다’고 밝혔다.
구글이 公開한 TPU 팟은 次世代 TPU 64個로 構成돼 最大 11.5페타플롭(秒當 1000兆 番 演算處理 單位로, 컴퓨터의 演算性能을 나타내는 尺度)의 演算性能을 記錄함으로써 人工知能이 딥러닝에 쓰는 時間을 大幅 短縮시켰다. 11.5페타플롭은 全 世界 슈퍼컴퓨터 가운데 演算性能 7位를 記錄하고 있는 日本 ‘K컴퓨터’의 10.51페타플롭보다 높은 數値다.
이처럼 高性能을 자랑하는 TPU이지만 IBM의 CPU, GPU 統合體制를 完全히 代替하지는 못할 것으로 보인다. TPU가 머신러닝에 特化된 칩이라 CPU를 통해 데이터 出力 等의 基本的인 機能을 補完해야 하기 때문. 커제와 對決한 ‘알파고 마스터 버전’ 亦是 TPU 4個로 짜인 TPU 머신과 CPU 200個로 構成됐다.?
TPU의 躍進에 가장 危機를 느낄 곳은 GPU 生産死因 엔비디아다. 커제와 對局한 알파고는 GPU 없이 TPU와 CPU만 使用했다.
이에 엔비디아는 새로운 人工知能 專用 GPU를 發表했다. 5月 10日 美國 새너제이에서 進行된 ‘GPU테크놀로지콘퍼런스(GTC) 2017’에서 젠슨 黃 엔비디아 最高經營者(CEO)는 基調演說을 통해 高性能 GPU亞키텍쳐인 볼타(Volta)를 선보였다. 黃 CEO의 發表에 따르면 볼타는 210億 個의 트랜지스터로 構築됐으며, CPU 100代와 같은 水準의 性能으로 딥러닝을 具現할 수 있다.
애플도 人工知能 專用 칩 開發에 나섰다. 5月 26日 블룸버그通信의 報道에 따르면 애플은 自律走行車, 增强現實, 시리 等의 機能을 改善하고자 ‘애플 뉴럴 엔진’이라는 人工知能 專用 칩을 開發하고 있다. 애플은 이 새로운 칩을 통해 人工知能 關聯 機能을 改善하는 同時에 電力 消耗를 줄여 배터리 性能 向上도 노리고 있는 것으로 알려졌다.?
