앤트로픽이 26일(현지시각) 미국 증권거래위원회(SEC)에 제출한 증권신고서는 전체의 4분의 1을 인공지능(AI)의 위험성과 자사가 처한 부정적 여건 기술에 할애했다. 투자 유치를 위한 공시 서류에서 자사 기술의 부정적 영향을 이처럼 상세히 기술한 것은 이례적이라는 평가가 나온다.

앤트로픽 로고 이미지.
앤트로픽 로고 이미지.

앤트로픽은 약 400쪽 분량의 증권신고서 중 94쪽을 '위험 요인' 항목에 할애했다. 특히 고도로 발달한 AI가 인류에 재앙적 위험을 초래할 수 있다고 경고했다. 앤트로픽은 고도로 발달한 AI의 위험성에 대해 "오용되거나 복제되거나 무기화하거나 높은 수준의 자율성으로 운영될 경우 인류에게 재앙적이거나 존재에 위협이 되는 위험을 초래할 수 있다"고 했다.

특히 AI 모델이 인간의 의도와 어긋나 스스로 목적을 추구하는 이른바 '정렬 실패'(misalignment)와 자율성 위험을 중요하게 다뤘다. AI 모델이 시험·실증 환경에서 작동을 중단시키는 '셧다운'에 저항하거나, 정보를 숨기고 조작하는가 하면 협박이나 기만까지 동원해 자신의 지속적인 작동을 추구하는 '전략적·자기보존적 행동'을 보인 사례가 관찰됐다고도 보고했다.

악의적인 인간 행위자가 첨단 AI 모델을 악용해 화학·생물학·방사능·핵(CBRN) 무기를 개발할 수 있다는 우려도 담았다. 실제 중국 정부의 지원을 받는 것으로 파악된 해킹 그룹이 앤트로픽의 코딩 도구인 '클로드 코드'를 조작해 지난해 9월 전 세계 대기업과 정부 기관 등 30여 대상에 침투하려 한 사건을 그 예시로 들었다.

앤트로픽은 이와 같은 오용을 탐지하고 차단하기 위해 기술적 안전장치를 도입하고 있지만, 이와 같은 안전장치가 완전하다는 보장은 없다고 설명했다. 앤트로픽은 '재앙적 AI 사건'이 발생하면 자사가 부담해야 할 손해배상 책임이나 법적 위험이 막대하다며, 이 때문에 이를 담보할 보험조차 구하기 어려울 수 있다고 명시했다.

인프라 및 공급망 측면의 현실적 한계도 위험 요인으로 대거 기술하면서 메모리 반도체 공급망도 불확실성으로 들었다. 앤트로픽은 AI 가속기에 필요한 고대역폭메모리(HBM) 공급이 삼성전자와 SK하이닉스, 마이크론 등 3개 기업에 집중돼 있다고 지적했다. 이들 기업의 생산시설이 주로 미국 외 지역에 있어 수출입 통제와 제재, 관세 등 영향을 받을 수 있다는 것이다.

AI 가속기 제조가 대만 TSMC에 집중된 점도 위험 요인으로 제시했다. 중국과 대만 간 군사적 충돌이나 자연재해 등이 발생할 경우 글로벌 반도체 공급망이 수년간 마비될 수 있다고 우려했다.

환경 요인과 기후변화도 위험 요인으로 꼽았다. AI 모델 훈련에 막대한 전력이 소모되는 상황에서 미국 내 전력망 인프라가 부족해질 가능성과 수자원 고갈 등으로 냉각수 확보가 어려워질 수 있다는 점을 제기했다. 데이터센터 건설에 따른 지역사회 반발 등도 언급했다.

블룸버그통신은 이 같은 환경·기후 관련 위험 요인에 대한 설명이 당초 관련 내용을 포함하지 않았던 스페이스X의 증권신고서와 대조적이라고 평가했다. 스페이스X는 이후 신고서를 수정해 물 부족 등의 위험 요인을 추가했다.

미국 정부와의 갈등도 사업상 불확실성으로 제시했다. 앤트로픽은 미 국방부의 공급망 위험 기업으로 지정된 데 이어 도널드 트럼프 행정부와 소송을 벌이고 있다는 점을 명시했다. 이러한 갈등이 정부 대상 사업뿐 아니라 공공기관을 고객으로 둔 민간 기업과의 거래에도 악영향을 미칠 수 있다는 설명이다.

다만 앤트로픽은 AI가 인간의 통제 아래 적절히 활용된다면 막대한 경제적 가치와 사회적 혜택을 창출할 수 있다고 전망했다. 특히 AI가 인간 전문가의 능력을 뛰어넘는 '강력 AI(Powerful AI)' 단계에 도달하면 수십 년이 걸릴 과학적 진보를 수년으로 단축할 수 있다고 내다봤다. 생명과학과 의료 분야에서 암, 알츠하이머, 심장병, 희귀 유전 질환, 감염병 등의 치료법 개발에 AI가 결정적인 역할을 할 수 있다는 것이다.

앤트로픽은 이를 위해 60여 종의 과학 데이터베이스와 연동되는 '클로드 사이언스'를 선보였으며, 제약사들이 수익성 문제로 개발을 꺼려온 소외 질환 치료제 발굴 프로그램도 구축하고 있다고 설명했다.

경제적 파급효과에 대한 기대도 제시했다. 앤트로픽은 AI가 지식 노동자의 생산성을 높여 2031년까지 누적 22조5000억달러(약 3경원)의 경제적 효과를 창출할 것이라는 시장조사기관 IDC의 전망을 인용했다.