업스테이지는 8일 인공지능(AI) 기반 학습 플랫폼 '콴다'를 운영하는 매스프레소, KT와 공동 개발한 수학 도메인 특화 매쓰GPT(MathGPT·가칭)가 오픈AI의 챗GPT, 마이크로소프트(MS) 모델을 제치고 세계 신기록을 달성했다고 밝혔다.
업스테이지는 지난해 11월 콴다, KT와 매쓰GPT 개발을 시작했다. 업스테이지는 콴다의 수학 전문 데이터를 학습해 자연어 기반 언어 모델이 논리적 추론과 프로그래밍화를 거쳤다. 이를 통해 복잡한 수학 문제를 풀 수 있도록 파인튜닝을 진행했다.
두 회사는 13B 매개변수의 매쓰GPT를 개발하게 됐고, 언어 모델의 수학 능력을 평가하는 벤치마크 테스트에서 동급 최강의 MS 'ToRA 13B'를 능가하는 성적을 거뒀다. 이는 13B 이하 모델 1위에 해당하는 신기록이다.
이번 성과는 업스테이지, 콴다, KT의 유기적인 협력이 있어 가능했다. KT의 전폭적인 인프라 지원과 콴다의 독보적인 수학 특화 노하우 및 고품질 학습 데이터 등에 업스테이지의 모델링 기술력이 더해졌다.
김성훈 업스테이지 대표는 "콴다, KT와의 협력을 통해 챗GPT를 넘어 세계 최고 수준의 수학 특화 언어 모델을 개발하게 됐다"라며 "앞으로 업스테이지는 글로벌 1위 거대언어모델(LLM) 기술력을 바탕으로 다양한 영역에서 생성형 AI 혁신을 주도해 나가겠다"라고 했다.