구글이 인공지능(AI) 추론에 특화된 자사 AI 칩의 공급을 확대하면서 엔비디아의 아성에 도전한다.
구글 클라우드는 지난 4월에 공개한 7세대 텐서처리장치(TPU) '아이언우드(Ironwood)'를 몇 주 내 정식 출시한다고 6일(현지시각) 밝혔다. 아이언우드는 지난해 출시한 6세대 '트릴륨' 대비 4배, 2023년 내놓은 5세대 TPU v5p 대비 성능이 최대 10배 이상 개선됐다.
구글이 자체 설계·제작한 TPU는 AI 딥러닝(심층학습)에 최적화된 칩이다. 하나의 시스템에 아이언우드 칩 9216개를 연결할 수 있어 데이터 처리 병목 현상을 제거하는 데 도움이 된다고 구글은 설명했다.
아이언우드 TPU는 특히 행렬(Tensor) 연산이 필요한 대규모 모델 학습부터 복잡한 강화학습(RL), 대용량·저지연 AI 추론 등에 최적화됐다. 구글이 이 칩을 TPU라고 이름 붙인 것도 기존의 범용 그래픽처리장치(GPU)나 신경망처리장치(NPU)보다 행렬 연산에 특화한 칩이라는 의미를 담고 있다.
구글은 현재 마이크로소프트(MS), 아마존, 메타 등 빅테크와 함께 차세대 AI 인프라 구축을 위해 치열한 경쟁을 벌이고 있다. 지금까지 대부분의 대형언어모델과 AI 작업은 엔비디아의 GPU에 의존해왔다. 구글은 자사 TPU가 맞춤형 실리콘 범주에 속하며, 가격·성능·효율 면에서 장점을 지닌다고 강조하며, 엔비디아 GPU를 대신할 제품이라는 인식을 심고자 노력하고 있다.
그러면서 구글은 이미 주요 고객사들 사이에서 아이언우드에 대해 긍정적인 반응을 얻고 있다고 소개했다. 대표적으로 AI 챗봇 '클로드'를 운영하는 앤트로픽은 TPU 최대 100만개를 공급받기로 했고, 라이트릭스·에센셜AI 등도 아이언우드를 활용하고 있다고 전했다.
순다 피차이 최고경영자(CEO)도 최근 실적발표 이후 콘퍼런스콜에서 "TPU와 GPU 기반 AI 인프라에 대한 수요가 상당하다"고 말했다.