KT클라우드는 엔비디아 H200을 GPUaaS(GPU as a Service)에 적용해 최적화된 고성능 AI 인프라를 제공한다고 24일 밝혔다.
KT클라우드는 국내 공공기관과 AI 스타트업을 대상으로 사용량 기반 GPU 자원 이용이 가능한 GPUaaS를 운영 중이다. ▲대용량 GPU가 필요한 AI 학습용 ‘AI Train’ ▲상시 GPU 공급이 필요한 추론용 ‘AI SERV’ 등 다양한 엔비디아 기반 서비스를 제공해 왔다. 이번 H200 도입으로 기존 H100 중심의 AI Train 서비스 성능을 한층 강화할 계획이다.
엔비디아 H200은 최신 호퍼(Hopper) 아키텍처 기반 GPU로, 기존 H100 대비 연산 성능과 전력 효율이 개선되었으며, 확장된 메모리 대역폭으로 AI 학습 및 추론 인프라 성능을 최적화한다.
또한, NPU(Neural Processing Unit) 영역에서도 사업을 확장한다. 리벨리온과 협력해 AI SERV NPU 서비스를 운영 중이며, 올해 5월 출시 예정인 ‘아톰 맥스’를 적용해 소형언어모델(sLM) 최적화를 진행한다. 아울러, 미국 반도체 설계 업체 암페어(Ampere)와의 AI 반도체 사업 협력도 검토 중이다.
KT클라우드는 하반기 공공기관 대상 추론 전용 상품의 CSAP 인증 절차를 진행하며, 공공 AI 수요 대응도 강화할 예정이다.