다리오 아모데이 앤트로픽 최고경영자(CEO)가 "앤트로픽은 개방형 인공지능(AI) 모델인 오픈웨이트 모델의 금지를 옹호한 적이 없다"고 밝혔다. 주요 빅테크가 참여한 오픈웨이트 지지 공개서한에 앤트로픽이 서명하지 않으면서, 회사가 관련 규제를 지지하는 것 아니냐는 비판이 나오자 직접 해명에 나선 것이다.
아모데이 CEO는 27일(현지 시각) '오픈웨이트 모델에 대한 우리의 입장'이라는 제목의 공지를 내고 "위험한 기능을 포함하지 않은 오픈웨이트 모델은 공공재"라며 "모델을 실행하는 데 필요한 컴퓨팅 비용 외에는 추가 비용이 들지 않고 기업과 개발자, 연구자에게 가치를 제공한다"고 밝혔다.
오픈웨이트 모델은 소스코드와 학습 데이터 등을 모두 공개하는 완전한 오픈소스 모델과는 다르다. 다만 AI 모델의 성능과 작동 방식을 결정하는 가중치를 공개해 제3자가 모델을 내려받아 활용하거나 수정할 수 있다.
아모데이 CEO는 오픈웨이트 모델 자체를 금지해서는 안 된다는 입장을 밝히면서도, 최첨단 고성능 모델의 공개에는 별도의 위험 관리가 필요하다고 강조했다. 그는 "가장 우려하는 것은 일부 국가가 미국이 개발한 것보다 강력한 AI 모델을 만들어 영구적인 군사적 우위를 확보하거나 자국민을 극도로 억압하는 데 사용하는 위험"이라고 말했다.
그는 고성능 오픈웨이트 모델이 폐쇄형 모델보다 더 큰 위험을 초래할 수 있다고도 주장했다. 서비스 제공자가 통제하는 폐쇄형 모델과 달리 오픈웨이트 모델은 가중치가 공개된 이후 안전장치를 적용하거나 이용 방식을 감시하기 어렵다는 것이다.
중국 기업의 AI 모델 증류에 대해서도 강경한 대응이 필요하다고 밝혔다. 증류는 성능이 높은 대형 모델의 출력 결과를 활용해 더 작고 효율적인 모델을 학습시키는 기술이다.
아모데이 CEO는 "중국은 증류를 통해 보유한 칩만으로는 개발하기 어려운 수준의 모델을 구축하고, 반도체 수출 통제 조치를 부분적으로 우회할 수 있다"며 "증류만으로 중국 공산당이 미국과 동등하거나 더 뛰어난 AI 역량을 확보할 수 있는 것은 아니지만, 중국의 AI 기술력을 수개월 만에 미국 수준에 가깝게 끌어올릴 수 있다"고 말했다.
앞서 엔비디아와 마이크로소프트, 메타 등 주요 기술 기업은 미국 정부가 오픈웨이트 AI 모델에 대한 규제를 확대해서는 안 된다는 내용의 공동 서한을 발표했다. 오픈AI도 지난 25일 서명에 합류했지만 앤트로픽은 참여하지 않았다.