미국 정부가 중국 인공지능(AI) 스타트업 문샷AI의 모델 '키미 K3′에 증류 의혹을 제기하면서 오픈웨이트 모델 전반으로 제재가 확대될 수 있다는 우려가 커지자, 주요 AI 기업들이 포괄적 규제에 반대하고 나섰다. 이에 공동서한에 참여하지 않은 앤트로픽 역시 오픈웨이트 모델을 금지해서는 안 된다는 입장을 내놨다. 아울러 공개 여부와 상관없이 일정 수준 이상의 성능을 갖춘 모델에 출시 전 안전성 평가를 의무화해야 한다고 주장했다.
다만 사전 평가 결과에 강제력을 부여할지를 두고는 기업 간 시각차가 있다. 앤트로픽은 앞서 중대한 위험이 확인된 모델의 추가 배포나 기존 모델의 이용을 제한하는 방안을 제시했다. 반면 오픈AI는 평가기관의 역할을 위험 진단과 완화책 권고에 한정해야 한다고 주장해 왔다. 향후 미국이 사전 평가 제도를 마련할 경우 법적 강제력의 범위가 쟁점이 될 전망이다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 27일(현지 시각) 공개한 입장문에서 "앤트로픽은 오픈웨이트 모델 금지를 옹호한 적이 없다"고 밝혔다. 오픈웨이트 모델은 AI의 성능과 작동 방식을 결정하는 수치인 가중치를 외부에 공개한 모델로, 이용자가 자체 서버에서 실행하거나 용도에 맞게 수정할 수 있다. 다만 모델 코드와 학습 방식, 데이터 정보까지 모두 공개하는 오픈소스 AI와는 구별된다.
◇ 키미 K3 등장에 커진 오픈웨이트 규제 우려
이번 논란은 문샷AI가 오픈웨이트 모델 키미 K3를 공개하면서 본격화됐다. 키미 K3가 일부 성능 평가에서 미국의 최상위 모델에 근접한 결과를 내자, 미국 정부는 문샷AI가 앤트로픽 모델의 출력물을 대규모로 활용하는 '증류' 기법으로 모델을 개발했다는 의혹을 제기했다.
마이클 크라치오스 백악관 과학기술정책실(OSTP) 실장과 스콧 베선트 미 재무장관은 중국 기업이 미국 AI 모델을 무단 증류했다며 제재 가능성을 시사했다. 이를 계기로 중국 기업의 무단 증류 행위에 대한 제재가 오픈웨이트 모델 전반의 규제로 확대될 수 있다는 우려도 커졌다.
이에 엔비디아를 주도로 오픈AI와 구글을 비롯한 50여 개 기업·기관은 지난 24일 공동 서한을 내고 오픈웨이트 모델을 포괄적으로 제한해서는 안 된다고 주장했다. 블룸버그통신에 따르면 젠슨 황 엔비디아 CEO도 지난 28일 워싱턴을 방문해 "미국 산업계는 보안과 안전을 위해 오픈웨이트 모델이 필요하다"며 "이는 전체 산업의 활력을 위해 매우 중요하다"고 말했다.
마크 저커버그 메타 CEO 역시 같은 날 파이낸셜타임스(FT)와의 인터뷰에서 미국 정부가 지식재산권 침해를 이유로 중국 기업들을 겨냥해 규제를 강화하는 것은 "효과적인 해결책"이 되지 않을 것이라고 말했다.
아모데이 CEO가 별도의 입장문을 낸 것은 앤트로픽이 공동 서한에서 빠지면서 자사의 폐쇄형 모델 사업을 보호하기 위해 오픈웨이트 규제를 지지하는 것 아니냐는 비판이 제기됐기 때문으로 풀이된다.
◇ 아모데이 CEO "공개 방식 아닌 실제 위험 평가해야"
아모데이 CEO는 입장문에서 오픈웨이트 모델을 포괄적으로 금지하기보다, 공개 여부와 관계없이 일정 수준 이상의 성능을 갖춘 모델에 출시 전 안전성 평가를 의무화해야 한다고 주장했다. 입장문은 사전 평가의 필요성을 강조했지만, 평가 과정에서 중대한 위험이 확인된 모델을 어떻게 처리할지는 구체적으로 언급하지 않았다. 다만 앤트로픽이 지난 6월 발표한 '첨단 AI 프레임워크' 보고서에는 평가 결과에 따라 법적 집행으로 이어질 수 있는 방안이 담겼다.
당시 앤트로픽은 중대한 재앙적 위험이 있는 모델의 배포를 차단하거나 억제할 제도가 필요하다고 제안했다. 정부 기관이 위험 보고서와 독립 평가 결과를 검토해 위반 여부를 확인하고, 법원에 벌금이나 배포 제한 등 필요한 조치를 청구하도록 하는 방안 등을 제시했다. 극단적인 경우 이미 배포된 모델의 이용과 접근을 제한하는 방안도 제시했다.
앤트로픽이 강력한 정부 권한을 요구하는 이유는 자율 규제의 한계 때문이다. 일부 기업이 위험을 줄이려 출시를 늦추더라도, 경쟁사가 안전장치 없이 고성능 모델을 먼저 내놓을 수 있기에 공통 규칙 적용이 필수적이라는 논리다.
◇ 오픈AI "평가하되 출시 승인·차단은 안 돼"
오픈AI도 지난 6월 발표한 '프런티어 AI의 민주적 거버넌스: 연방 체계를 위한 청사진' 보고서에서 고성능 모델의 출시 전 안전성 평가를 의무화하는 방안을 제안했다.
오픈AI는 프런티어 모델을 공개하기 전에 미 상무부 산하 AI 표준·혁신센터(CAISI)의 평가를 받도록 해야 한다고 주장했다. 다만 필요한 경우 모델 출시를 막을 수 있다는 앤트로픽의 주장과 달리 CAISI의 역할은 모델의 위험을 진단하고 필요한 완화책을 권고하는 데 그쳐야 하며, 모델 출시를 승인하거나 차단하는 허가 기관이 돼서는 안 된다고 선을 그었다.
개발사에 평가 결과와 대응 방안을 공개할 책임을 지우되, 최종 출시 여부는 개발사가 결정해야 한다는 입장인 셈이다.
한편 AI 모델의 성능이 고도화되면서 독립적인 안전성 평가 체계를 마련해야 한다는 주장도 확산하고 있다. 데미스 허사비스 구글 딥마인드 CEO는 지난 14일 고도화된 AI의 위협에 대응하기 위한 새로운 평가 기구 도입을 제안했다.
그는 미국 증권 업계의 자율 규제 기구인 금융산업규제국(FINRA)처럼 기업이 운영비를 부담하되 정부의 감독을 받는 방식을 주장했다. AI 기업이 새 모델을 공개하기 최대 30일 전에 자발적으로 제출하면 독립된 기술 전문가들이 사이버 공격과 생물안보 위협, 기만 능력 등을 평가하자는 것이다.
허사비스 CEO는 "범용 인공지능(AGI)이 도래하기 전 이 기회를 활용해 인류 전체의 이익을 위해 기술을 발전시켜야 한다"고 말했다.