미국 정부가 딥시크와 알리바바 등 중국 인공지능(AI) 기업들이 오픈AI·앤스로픽 등의 AI 모델에 우회 접속해 답변을 대량으로 수집하고, 이를 자사 모델 개발에 활용했다고 공식 발표했다. 중국 기업들이 미국의 첨단 AI르 대상으로 '증류' 활동을 벌여 연구·개발에 드는 비용과 시간을 줄였다는 것이다.
미 국가안보국(NSA)과 연방수사국(FBI), 사이버보안·인프라보안국(CISA)은 8일(현지시각) 공동 보고서를 내고 "중국 AI 기업들이 산업적 규모의 공격적이고 악의적인 증류 활동을 벌이고 있다"고 밝혔다.
증류는 성능이 뛰어난 대형 AI를 '교사 모델'로 삼아 더 작거나 성능이 낮은 '학생 모델'을 훈련하는 기술이다. 교사 모델에 수많은 문제를 제시하고, 여기서 얻은 답변과 풀이 과정을 학생 모델의 학습 데이터로 사용하는 방식이다. AI 모델을 작고 저렴하게 만드는 데 널리 활용되는 기술이지만, 미 정부는 중국 기업들이 미국 AI 기업의 허락 없이 답변을 대량 수집해 자사 모델 학습에 이용했다고 지적했다.
미국 정부가 지목한 기업은 딥시크와 문샷AI, 알리바바, 미니맥스, 스텝펀, Z.AI 등 6곳이다. 이들은 2024년 말부터 오픈AI의 GPT, 앤스로픽의 클로드, 구글의 제미나이, xAI의 그록 등에 수백만 차례 질의를 보내 수십억개의 토큰을 수집한 것으로 조사됐다. 미 정부는 이들이 수집한 답변과 문제 풀이 과정을 학습 데이터로 활용해 자사 AI 모델의 성능을 끌어올렸다고 판단했다.
특히 중국에서는 오픈AI와 앤스로픽의 모델을 공식적으로 이용할 수 없다. 미 당국은 중국 AI 기업들이 이를 우회하기 위해 이른바 '환승소(transfer station)'로 불리는 중계망까지 동원했다고 설명했다. 중국 이용자가 싱가포르 등 해외 환승소에 요청을 보내면, 현지 서버와 가짜 계정이 대신 미국 AI에 접속해 답변받아 전달하는 구조다. 이들은 여러 계정과 클라우드 업체에 요청을 분산하고, 특정 계정이 차단되면 다른 경로로 자동 전환하는 방식으로 실제 이용 주체를 숨긴 것으로 조사됐다.
미국 정부는 증류가 중국 AI 기업의 단순한 보조 수단이 아니라 모델 개발의 핵심 기반이라고 주장했다. 첨단 AI 반도체 수출 통제로 컴퓨팅 자원이 부족해진 중국 기업들이 막대한 비용을 들여 개발된 미국 AI 모델의 결과물을 활용해 시행착오와 훈련 비용을 줄였다는 것이다. 보고서는 이러한 활동이 중국 정부가 인지한 가운데 이뤄졌을 가능성이 크다고 분석했다.
미 당국은 자국 AI 기업들에 가짜 계정 탐지와 이용량 제한을 강화하라고 권고했다. 악성 증류 활동을 벌이는 것으로 의심되는 계정에는 성능이 낮은 모델의 답변을 제공하거나 응답에 노이즈를 섞는 방안도 제시했다. 공격자가 품질이 떨어지는 데이터를 정상적인 답변으로 오인해 학습하도록 만들어 증류의 효과를 낮추겠다는 취지다.