생성형 인공지능(AI) 모델이 정보를 처리하고 답변을 생성하는 데 사용하는 기본 단위인 토큰(token) 가격이 역대 최저 수준으로 떨어졌다. 중국발(發) 저가 AI 공세에 주요 AI 기업간 가격 인하 경쟁이 치열해지면서 가격이 하락한 것으로 풀이된다.
1일(현지시각) CNBC에 따르면 시장조사업체 실리콘데이터가 집계하는 AI 토큰 가격 지표인 '거대언어모델(LLM) 토큰 지출지수'는 지난달 31일 0.97달러를 기록했다. 이는 지수가 만들어진 지난해 말 이후 가장 낮은 수치다. 올해 5월 말 정점(2.05달러)와 비교하면 반토막 난 수준이다. 해당 지수는 LLM이 텍스트를 처리하는 단위인 토큰이 시장에서 실제 거래되는 가격을 추적해 산출한다.
해당 지수는 6월 이후에 대체로 하락 흐름을 보였으며, 이번 주 들어서는 하락세가 더 뚜렷해졌다.
토큰 가격 하락은 오픈AI와 앤트로픽 등 모델 개발사들의 수익 구조와 대규모 AI 투자의 회수 전망에는 부정적이다. 토큰 가격이 떨어지면 챗GPT·클로드·제미나이 등 AI 챗봇 서비스를 이용하는 소비자의 비용 부담은 줄어들지만, 이를 공급하는 오픈AI·앤트로픽·구글 등 모델 개발사는 수익성이 나빠질 수 있다고 CNBC가 지적했다.
중국의 저가 오픈웨이트(가중치 공개) 모델이 최근 토큰 가격 하락을 주도했다는 분석이 나온다. 시즈그룹의 찰스 앙리 몽쇼 최고투자책임자(CIO)는 "문샷AI의 '키미 K3' 같은 모델이 미국 선두 AI 기업들의 모델보다 낮은 가격을 제시하면서 시장 전체의 가격을 끌어내리고 있다"고 진단했다.
앞서 오픈AI가 7월 말 GPT-5.6 계열 2개 모델의 가격을 낮추고, 다른 업체들도 수요에 맞춰 이용 가격을 조절할 수 있는 '동적 가격제(dynamic pricing)'를 채택한 점도 가격 하락 압력으로 작용한 것으로 풀이된다.
몽쇼 CIO는 "AI 기업의 컴퓨팅(연산 자원) 관련 고정비 부담은 그대로인데, 토큰 가격이 떨어지면서 매출이 타격을 받고 있다"면서 "오픈웨이트 모델과 최상위 폐쇄형 모델 간 성능 격차가 몇 개월 단위로 좁혀지고 있어 성능 우위에 의존하던 기존 전략에서 벗어나 유통 채널, 메모리, 컨텍스트 처리 능력 등에 주력해야 한다"고 했다.
특히 토큰 가격 하락은 기업공개(IPO)를 앞두고 있는 오픈AI와 앤트로픽에 악재다. 양사는 최근 미국 규제당국에 비공개로 상장 신청서를 제출했다. 시장에서는 AI 업계의 대규모 투자가 기대한 수익을 낼 수 있을지에 대한 의구심을 제기하기 시작했다.