앤트로픽이 중국 인공지능(AI) 기업들이 수천 개의 가짜 계정과 해외 중개망을 이용해 자사 AI 모델 '클로드'의 답변을 대량으로 수집하고, 이를 자사 모델 개발에 활용하려 한 정황을 공개했다.
앤트로픽이 10일(현지 시각) 발표한 위협정보 보고서에 따르면 문샷AI와 딥시크 등 중국 AI 기업들은 이른바 '환승역(transfer stations)'을 이용해 클로드에 대규모로 접속했다.
환승역은 중국 AI 기업과 미국 AI 모델 사이에서 요청과 응답을 대신 전달하는 해외 중개 서비스다. 중국 밖에서 운영되는 이 업체들은 가짜 신원이나 도난·위조 신용카드, 탈취한 API 키 등을 이용해 미국 AI 서비스 계정을 대량으로 만든 뒤 중국 AI 기업이 보낸 질문을 클로드 등에 대신 입력하고 답변을 되돌려줬다.
이 수법은 경쟁사 모델의 응답을 학습해 자사 모델 성능을 끌어올리는 '증류(distillation)' 기법의 일종으로, 미 당국은 이를 산업 규모의 절도에 비유하고 있다.
앤트로픽에 따르면 한 이용자는 중국 청두의 폐쇄회로(CC) TV 카메라 수백대에서 수집한 한 사람에 대한 감시 데이터를 분석해 달라고 문샷의 '키미' 서비스에 요청했다. 그러자 문샷은 중개자 네트워크를 통해 이 데이터를 클로드로 전달했다.
또한 문샷은 가짜 계정 수천개를 동원해 지난 5∼7월 클로드와 2300만건 이상 교신한 것으로 파악됐다. 딥시크도 유사한 방식으로 민감한 고객 정보를 클로드로 전달했다. 중국 소재 연구소 총 7곳이 최근 7개월간 이런 증류를 시도한 것으로 나타났다.
제이콥 클라인 앤트로픽 위협 정보 책임자는 월스트리트저널(WSJ)에 "이용자는 자신의 키미 이용 내역이 클로드로 전달되고 있다는 사실을 알 방법이 없었다"며 "앤트로픽 같은 기업이 이런 짓을 했다면 큰 스캔들이 됐을 것"이라고 말했다.
앤트로픽은 보고서에서 클로드가 해킹 범죄와 생물학 연구 등에 사용된 증거도 확인했다고 밝혔다. 중국의 한 이용자는 조류독감 바이러스를 포유류에 감염되도록 변형하려 클로드를 이용했다. 클라인 책임자는 "이전에는 이런 유형의 오용을 가상의 우려로 걱정했다면 이제는 현실로 옮겨갔다"고 말했다.
오픈AI 역시 생물무기·독극물 관련 유사한 질의를 확인했다고 WSJ은 전했다.
중국 창사에 있는 것으로 추정되는 중국어 사용 해킹 조직은 클로드를 이른바 '익스플로잇 파운드리(exploit foundry·취약점 공격도구 생산공장)'처럼 활용했다. 현지 대학 학부생 2명으로 구성된 이 조직은 클로드를 여러 하위 AI 에이전트로 나눠 정보 수집과 침투 이후 작업을 동시에 수행하도록 했다. 표적 목록과 탈취한 자격증명, 작업 지침 등도 지속적으로 기억하도록 설계했다.
네트워크 장비를 겨냥한 한 작업 과정에서만 한 달 동안 제로데이 취약점 후보 10여건을 찾아냈으며, 이 같은 방식으로 약 50개 기관을 표적으로 삼은 것으로 조사됐다.
이 밖에도 보고서는 러시아 국가 배후 해킹 조직의 우크라이나 정부·군·외교기관 대상 공격, 프랑스인 해커의 신상 정보 유출 사이트 운영, 튀르키예 기업의 말레이시아 선거 여론 조작 등 사례도 확인됐다고 밝혔다.