카카오의 대규모언어모델(LLM)인 '코GPT(KoGPT) 2.0′의 파라미터 수가 최대 660억개 수준인 것으로 파악됐다. 파라미터는 정보를 학습하고 기억하는 시냅스 역할을 한다. 파라미터가 클수록 생성형 AI(인공지능)가 고도화된다. 카카오는 코GPT의 가성비를 앞세워 AI 사업을 펼친다는 전략이다.
12일 업계에 따르면 미국 라스베이거스에서 열린 구글 클라우드 '넥스트 2024′ 행사에 참석 중인 김일두 카카오브레인 대표는 자신의 소셜미디어(SNS)에 "카카오브레인이 메인 연사에 소개되며 코GPT2.0의 (파라미터 수) 규모도 660억개로 갑자기 공개됐다"고 전했다.
660억개는 기존에 카카오가 밝힌 최대 650억개보다 10억개 많은 숫자다. 홍은택 전 카카오 대표는 지난해 8월 실적 컨퍼런스콜에서 "성능과 비용 효율성을 균형적으로 갖춘 AI 파운데이션 모델인 코GPT 2.0을 준비하고 있다"며 "파라미터 수로 보면 60억, 130억, 250억, 650억개 크기를 다양하게 테스트하고 있다"고 말했다. 홍 전 대표는 "많은 AI 모델들이 나왔지만 비용, 속도, 최신성, 정확성을 가진 모델은 나온 적이 없고, 초거대 모델 하나로 모든 문제를 해결하는 그림은 현재 예상하기 어렵다"며 "누가 먼저 초거대 생성형 언어모델 구축하느냐가 아니라 누가 비용 합리적으로 적정한 모델을 만들어서 서비스에 적용하느냐가 핵심"이라고 덧붙였다.
카카오브레인 관계자는 "공개된 4개 파라미터 수의 LLM 모델은 각종 서비스에 접목시키는 과정에서 규모가 달라질 수는 있다"며 "김일두 대표가 말한 660억개는 최대 파라미터 수를 의미한다"고 설명했다.
카카오는 무조건 파라미터가 큰 LLM을 개발하기 보다는 가성비 좋은 모델을 만들 것이라고 했다. 파라미터 수가 높아질수록 생성형 AI를 구동하는 운용 비용이 늘어나는 것을 감안하겠다는 것이다. 네이버는 지난해 8월 '하이퍼클로바X'를 공개하며 파라미터 수를 밝히지는 않았지만, 업계에서는 3000억~4000억개 수준으로 추정하고 있다. 오픈AI GPT-4의 파라미터 수는 약 5000억개로 알려졌다. 구글 제미나이는 1조개가 넘는 파라미터로 구성된 것으로 전해진다.
카카오는 당초 코GPT2.0를 지난해 10월 공개한다고 밝혔지만, 일정이 수차례 미뤄지고 있다. 내부적으로는 개발은 완료했지만, 코GPT2.0 자체를 공개할지 이를 서비스에 접목한 형태로 선보일 지 고민 중이다. 정신아 카카오 대표는 지난 4일 AI전략최고위협의회에 앞서 기자들에게 "공개되는 (AI) 모델이 많기 때문에, 카카오는 좀 더 서비스를 지향하는 형태로 갈 예정"이라고 언급했다.
카카오는 AI 전략을 빠르게 실현하기 위해 조직에도 변화를 주고 있다. 카카오는 AI 기술 개발을 주도하는 카카오브레인과 합치는 방안을 검토 중이다. 카카오브레인은 최근 사내 타운홀 미팅에서 카카오 본사에 신설한 AI 전담 조직와 카카오브레인을 합치는 것으로 방향성을 정했다.
카카오는 지난 1일 조직개편을 단행하면서 전사에 흩어져 있던 AI 관련 팀들을 모아 AI 통합 조직을 신설했다. 이 과정에서 최고AI책임자(CAIO)로 이상호 전 SK텔레콤 최고기술책임자(CTO)를 영입·선임했다.