중국 인공지능(AI)의 약진에 놀란 미국 정부가 제재 가능성을 시사하면서 업계 안팎에서 AI 모델 훈련법인 '증류(distillation)'를 둘러싼 찬반 논쟁이 격화하고 있다. 증류란 성능이 뛰어난 대형 AI 모델의 답변을 학습 데이터로 활용해 새로운 모델의 성능을 끌어올리는 기술이다. 트럼프 행정부는 중국 기업들이 무단으로 미국 최상위 AI 모델을 증류했다는 의혹을 제기하면서 지식재산권(IP) 침해 사실이 확인될 경우 제재를 가하겠다고 경고했다.
문제는 오픈AI와 앤트로픽도 최근 3~4년간 자사 생성형 AI 모델의 성능을 높이기 위해 허가 없이 각종 도서·출판물·기사·웹사이트에 게재된 콘텐츠 등을 활용한 전력이 있어, 이중잣대라는 비판이 나오고 있다.
24일 테크 업계에 따르면 스콧 베선트 미국 재무장관은 전날 엑스(X)에 "우리는 오픈소스(개방형) AI와 혁신을 지지하지만 미국의 지식재산권을 무단으로 가져가는 행위까지 허용하는 것은 아니다"라며 "중국 기업들이 산업 전반에 걸친 규모로 은밀한 '증류' 공격을 단행해 미국 기업의 IP를 탈취할 경우 수출통제 대상 지정 등의 강력한 제재를 검토하겠다"고 밝혔다.
해당 발언은 중국 AI 스타트업 문샷AI가 공개한 최신 오픈웨이트 모델 '키미 K3'가 오픈AI와 앤트로픽의 최상위 모델에 버금가는 성능을 갖췄다는 평가를 받은 이후 나왔다. 미국 정부는 문샷AI가 자체 기술을 개발한 것이 아니라 미국 AI 기업의 고성능 모델을 무단으로 증류해 '키미 K3'를 구현했을 것으로 추정하고 있다. 중국 기업들이 미국 경쟁사와의 AI 성능 격차를 빠른 속도로 좁혀오자, 미국 정부가 견제에 나선 것으로 분석된다.
앞서 마이클 크라치오스 백악관 과학기술정책실장도 "문샷AI가 앤트로픽의 '페이블5'를 증류했다는 정보를 입수했다"며 "미국의 독자적인 기술을 훔치고 미국의 연구개발 경쟁력을 훼손하려는 것은 용납할 수 없다"고 말했다.
AI 분야에서 지식 증류는 성능이 우수한 대형 모델, 이른바 '교사 모델'이 내놓은 답변을 활용해 더 작고 효율적인 '학생 모델'을 학습시키는 기술이다. 일종의 압축 학습 방식으로, 증류를 사용하면 대규모 데이터를 별도로 수집할 필요가 없어 독자적으로 동일한 수준의 AI 모델을 개발하는 데 필요한 시간과 비용을 크게 줄일 수 있다. 이렇게 만든 학생 모델은 적은 매개변수(파라미터)로도 대형 모델과 유사한 성능을 구현해낸다.
증류는 AI 업계에서 널리 활용되는 합법적인 학습 방식이다. 오픈AI, 앤트로픽, 구글 등 미국 주요 AI 기업들도 비용 절감과 모델 경량화를 위해 자사 대형 모델을 증류해 새로운 모델을 구축해왔다. 오픈AI는 지난해 2월 선보인 'GPT-4.5'가 증류 기법을 활용하지 않고 만든 마지막 일반 모델이라고 언급한 바 있다. 이후 등장한 추론 모델들은 증류를 통해 성능을 높여왔다. 앤트로픽도 "AI 기업들은 더 작고 저렴한 모델을 만들기 위해 자사 모델을 직접 증류하는 작업을 일상적으로 수행한다"고 밝혔다.
다만 미국 AI 기업들은 자사 AI 모델을 경쟁사가 무단으로 증류하는 행위를 약관을 통해 금지하고 있어, 위반할 경우 IP 침해 논란이 불거질 수 있다. 그동안 앤트로픽과 오픈AI는 중국 경쟁사들이 은밀하게 자사 모델을 증류해 고성능 모델을 출시하고 있다며 정부에 지원을 호소해왔다.
앞서 앤트로픽은 중국 딥시크, 문샷AI, 미니맥스 등이 자사 AI 모델 '클로드'의 결과물을 불법으로 추출해간 사실을 확인했다고 주장했다. 앤트로픽은 "이들은 2만4000여개의 가짜 계정을 만들어 클로드와 대화 1600만건 이상을 생성했다"고 밝혔다. 사라 헥 앤트로픽 공공정책 총괄은 "불법적이고 적대적인 지식 증류는 IP 절도이자 산업 스파이 행위이며, 적대국의 군사·정보 역량까지 강화하는 데 악용될 수 있는 국가 안보 사안"이라고 지적했다.
오픈AI도 그동안 중국 기업들의 증류 시도에 대해 "경쟁사의 개발 역량에 무임승차하려는 행위"라고 했다. 오픈AI, 앤트로픽, 구글, 마이크로소프트(MS)는 중국 기업의 '적대적 증류 공격'을 탐지하고 방어 체계를 구축하기 위해 지난 4월 '프런티어 모델 포럼'을 발족해 공동 대응에 나섰다. 이들은 적대적인 세력이 증류 기법을 통해 안전장치를 제거한 AI 모델을 개발할 경우 안보 위험을 초래할 수 있다고 주장하고 있다.
앤트로픽과 오픈AI가 주장하는 '무임승차' 논란이 모순적이라는 비판도 나온다. 그동안 미국 AI 기업들은 대량의 출판물과 온라인 게시물, 사진, 영상 등의 저작물을 허가 없이 거대언어모델(LLM) 학습에 사용해왔기 때문이다. 앤트로픽, 구글, 페이스북 모회사 메타 등은 도서 등의 저작물을 불법 복제하거나 무단으로 크롤링(crawling·데이터 추출)하는 방식으로 AI 모델을 훈련한 저작권 침해 행위로 각종 소송에 휘말렸다.
미국과 유럽의 주요 출판사들은 메타와 구글이 저작물 수백만 권을 허가 없이 복제해 AI 모델 학습에 사용했다며 집단 소송을 제기한 상태다. '클로드' 학습을 위해 700만권 이상의 책을 사용한 앤트로픽은 저작권 침해 소송을 낸 작가들에게 15억달러(약 2조2000억원) 규모의 합의금을 물어주기로 했다.
미국 AI 스타트업 관계자는 "앤트로픽을 포함한 미국 AI 기업들은 인류가 축적해 온 방대한 지식을 무단으로 학습해 이를 압축된 형태로 다시 판매하고 있다"며 "AI 모델 증류 문제에서만 저작권을 운운하는 것은 아이러니"라고 말했다.