정부가 '국가대표 인공지능(AI)'을 가리겠다며 추진 중인 '독자 AI 파운데이션 모델(독파모)'에서 잡음이 지속하고 있다. 2차 평가에서 글로벌 벤치마크 AAII 최고점을 받은 모티프테크놀로지스가 탈락하면서다. '패자 부활전'을 거쳐 뒤늦게 합류한 팀이 성능 1위임에도 탈락하는 구조가 온당하냐는 물음과, 과학기술정보통신부가 뒤늦게 세부 점수를 공개한 과정이 매끄럽지 않다는 지적이 나온다.
◇ 글로벌 벤치마크 1위가 탈락하는 평가
28일 과기정통부에 따르면, 모티프는 AAII 벤치마크 평가(25점 만점)에서 1위를 차지했으나 NIA 벤치마크 평가(15점 만점), 전문가 평가(35점 만점), 사용자 평가(25점 만점)에서 4위를 기록하며 최종 4위로 탈락했다. 종합 점수 1위는 SK텔레콤(70.6점), 2위는 업스테이지(69.9점), 3위는 LG AI연구원(69.0점)이다. 모티프는 65.8점을 받았다.
AAII 벤치마크는 과기정통부가 2차 평가의 신뢰성·공정성 확보를 위해 새로 도입한 평가 방식이다. 과기정통부는 당시 "전 세계 유수 글로벌 빅테크도 고득점을 받기 어려운 공신력 높은 벤치마크"라고 했다. 모티프는 AAII에서 47점을 받아 참여 4개 모델 중 1위였고, 글로벌에서도 10위에 올랐다.
벤치마크가 과연 모델의 성능을 제대로 평가할 수 있냐는 지적과 모티프가 벤치마크 점수를 끌어올리는 이른바 '벤치맥싱'을 한 것 아니냐는 논란이 나왔지만, 평가 배점 산정 방식에 문제가 있다는 모티프의 주장에도 설득력이 있다. 글로벌 최고 수준의 모델인 앤트로픽의 오푸스5는 AAII 점수가 63점인데, 이를 25점 만점으로 환산하면 15.75점에 불과해 모델 간 실제 성능 차이가 평가 점수에 충분히 반영되지 않는다는 것이다. 실제 2차 평가에서 AAII 벤치마크 점수는 모티프 11.9점, 업스테이지 9.4점, SK텔레콤 8.8점, LG AI연구원 7.8점이었다. 15점 만점인 NIA 벤치마크 점수는 12.7~13.4점에 분포했는데, 25점 만점인 AAII 벤치마크 점수는 7.8~11.9점에 분포했다. 또 참가사의 벤치맥싱은 없었다고 AAII 평가 기관이 밝혔다.
1차 평가에서 벤치마크, 전문가, 사용자 등 세 평가 항목을 모두 석권하며 90.2점(5개 팀 평균 79.7점)으로 압도적 1위를 차지한 LG AI연구원은 2차 평가에서 3위로 밀렸는데, 이를 보면 정부의 평가 방식 변경에 따라 순위가 완전히 뒤바뀐다는 점도 알 수 있다. 2차 평가에서 새로 추가된 AAII 벤치마크에서 LG AI연구원이 최저점을 받으며 순위가 뒤처졌기 때문이다.
또 1~3위의 최종 평가 점수가 69.0~70.6점으로 미세한 상황에서, 평가위원 개인의 점수 성향이 순위에 미치는 영향이 작지 않은 것으로 나타났다. 과기정통부가 전날 공개한 전문가 평가(35점 만점) 세부 점수를 보면, 평가위원 10명 중 '위원7'은 업스테이지에 30점을 주면서 LG AI연구원에 24점, SK텔레콤에 20점, 모티프에 17점을 매겼다. 점수 편차를 크게 두는 배점 성향으로, 최저점과 최고점의 차이가 13점에 달했다. 반면 나머지 평가 위원들은 최저점과 최고점의 차이가 평균 4.6점에 불과해 배점 차이가 작다. 정부는 최고·최저 점수를 제외한 나머지 평가점수를 산술 평균하는 방식을 도입했는데, '위원7'이 LG AI연구원·SK텔레콤·모티프에 준 점수는 모두 10명 중 최저점이어서 반영되지 않았으나 업스테이지에 준 30점은 최고점이 아니어서 반영됐다.
편차가 유독 큰 '위원7'을 제외하고 같은 방식으로 전문가 평가 점수를 다시 산출하면, 2위 업스테이지와 3위 LG AI연구원의 종합 점수 격차가 0.9점에서 0.1점대로 좁혀진다.
◇ 절차도 매끄럽지 않아
과정도 매끄럽지 않았다. 과기정통부는 8월 18일 2차 결과를 발표할 때 진출·탈락 여부만 공개하고, 진출팀의 순위와 세부 점수는 내놓지 않았다. 세금이 투입되는 사업인데 순위조차 밝히지 않는다는 비판이 이어지자, 20일에는 하위 팀 '낙인 효과'를 이유로 항목별 1위 팀 등만 부분 공개했다. 전 항목 점수가 밝혀진 것은 모티프가 입장문을 내고 전면 공개를 요구한 뒤였다. 앞서 1차 평가에서 네이버클라우드가 '독자성' 기준 미충족으로 탈락한 것과 이후 예정에 없던 패자 부활전을 진행한 것도 정책 신뢰성 및 공정성 논란을 낳았다. 공정성 의문은 업스테이지와 하정우 전 청와대 AI미래기획수석 관련 이해충돌 논란으로 증폭됐다.
근본적으로 독파모 사업의 목표와 평가 잣대가 어긋난다는 지적도 제기된다. 독파모는 프런티어 AI 모델 대비 95% 이상 성능을 목표로 시작했는데, 2차 배점은 벤치마크(40점)보다 사람이 매기는 전문가·사용자 평가(60점)에 무게가 실렸다. 업계에서는 사용성 제고나 서비스 확산은 '모두의 AI' 사업에서 다룰 일이지, 기술력을 겨루는 독파모 사업의 핵심 잣대로 삼을 일이냐고 반문한다.
방식의 한계는 정부도 인정하고 있다. 배경훈 부총리 겸 과학기술정보통신부 장관은 "1년 반 전 수립된 평가나 경쟁 방식이 3~6개월 단위로 급변하는 AI 트렌드에 여전히 유효한지 근본적인 고민이 필요한 시점"이라며 "누구나 인정할 수 있는 세계적인 수준의 모델을 만들기 위해 정부 투자 집중 방식과 평가 제도의 보완을 검토하겠다"고 했다.
김장현 성균관대 교수는 "모델 자체가 아무리 고도화됐더라도 이용자 수용성이 떨어지면 그 성능의 의미가 반감되는 측면이 있다"면서도 "대규모언어모델(LLM)의 성능을 조금이라도 높이기 위해 전 세계적으로 어마어마한 경쟁이 벌어지고, 단순 수치 경쟁처럼 보이지만 실제로는 다양한 측면을 테스트한 점수를 비교하는 것이어서 벤치마크는 그렇게 단순하지 않다"고 말했다. 이어 "정부가 이번에 논란이 된 사용성 부분의 심사 기준을 더 정교화해야 한다"고 했다.