일부 과학자가 생물학 무기로 악용될 수 있는 바이러스 연구에 앤트로픽의 인공지능(AI) 모델 '클로드'를 활용한 것으로 나타났다. 총기와 미사일, 무장 드론 개발이나 반체제 인사 감시 등 군사·안보 분야에서 클로드를 악용하려 한 사례도 확인됐다.
뉴욕타임스(NYT)는 10일(현지 시각) 앤트로픽이 최근 공개한 AI 악용 사례 보고서를 통해 이 같은 사례를 공개했다고 보도했다.
보고서에 따르면 지난 5월 한 과학자는 군사 연구 기관에서 진행할 치쿤구니야 바이러스 돌연변이 연구에 클로드를 활용했다. 치쿤구니야 바이러스에 감염되면 심각한 관절통 등이 수개월간 지속될 수 있다.
이 과학자는 살아있는 동물에 바이러스를 반복적으로 감염시켜 유해성을 더욱 높이는 연구를 추진한 것으로 전해졌다. 이 같은 연구는 백신 개발 등에 활용될 수 있지만, 생물학 무기 개발에도 악용될 위험도 있다.
앤트로픽의 정보 분야 책임자인 제이컵 클라인은 "해당 연구의 목적이 무기 개발인지는 알 수 없다"면서도 "군사기관에서 이 같은 연구를 한다는 것 자체가 우려스러운 일"이라고 말했다.
또한 클로드 사용이 제한되는 지역에 거주하는 한 연구자는 조류인플루엔자 관련 실험을 추진하기도 했다. 앤트로픽은 국가 안보 우려를 이유로 중국과 러시아, 이란, 북한, 쿠바 등에 대해서는 클로드의 사용을 제한하고 있다.
앤트로픽은 사용 제한 지역에서 우회 접속하거나 연구 목적을 숨긴 과학자들의 계정을 차단했다. 군사용으로 전용될 가능성이 있는 생물학 연구에 대해서도 안전장치를 강화했다고 밝혔다.
생물학 분야 외에도 총기와 미사일, 무장 드론 등 재래식 무기의 설계·개발이나 반체제 인사 감시 등에 AI가 이용된 사례도 공개됐다. 중국에서 3건, 러시아에서 2건, 예멘에서 1건의 재래식 무기 관련 악용 사례가 확인됐다.
중국과 이란 정부와 연계된 것으로 의심되는 세력은 반체제 인사와 해외 거주자를 감시하는 데 AI를 활용하려 한 것으로 전해졌다. 러시아의 국영 매체는 클로드를 이용해 몰도바의 선거와 관련한 가짜 뉴스를 독립적인 언론 보도로 위장하려고 했다.
워싱턴의 싱크탱크 전략위험위원회(CSR)의 선임 연구원 앤드루 웨버는 이러한 사례에 대해 "국가의 지원을 받는 생물 무기 개발자들이 빠르게 발전하는 AI의 능력을 이용하려고 한다는 사실을 보여주는 섬뜩한 사례"라며 "중국과 러시아, 북한이 금지된 생물학 무기를 계속 개발하고 있다는 점을 감안하면 이들 국가 연구자가 강력한 AI 모델에 접근하지 못하도록 철저하게 막아야 한다"고 했다.