인공지능(AI) 모델 '클로드'를 개발한 앤트로픽이 AI 기술 발전에 따른 위험에 대응하기 위해 정부 차원의 규제와 노동시장 대책 마련을 촉구했다.
10일(현지 시각) 로이터 통신에 따르면 앤트로픽은 성명을 내고 AI 위험을 다루는 엄격한 연방 법이 의회에서 통과되지 않는 한 주 정부의 AI 규제를 막아서는 안 된다고 주장했다. 또 의회가 AI 기업이 만드는 최상위 모델에 대해 독립적인 안전성 테스트를 거치도록 요구해야 하며, AI가 촉발하는 실업 등 문제에 대해 대책을 강구해야 한다고 강조했다.
다리오 아모데이 최고경영자(CEO)는 이날 개인 블로그에 공개한 '기하급수적 AI 발전에 대한 정책' 에세이에서 이 같은 입장을 구체적으로 설명했다.
아모데이 CEO는 AI 발전 속도가 기하급수적으로 빨라져 기존에 논의되던 투명성 중심의 규제만으로는 충분하지 않다고 지적했다. 그는 "투명성을 넘어 AI에 더 엄격하고 구속력 있는 규제를 도입해야 할 때"라며 항공기에 대해 기술적 테스트와 감사를 벌이는 연방항공청(FAA)을 모델로 삼아 AI를 규제하는 기관을 설립해야 한다고 했다.
AI가 촉발할 수 있는 대규모 실업 문제에 대한 우려도 나타냈다. 그는 "장기적인 일자리 대체 현상은 바람직하지 않을 뿐만 아니라 위험하기도 하다"며 고용 촉진을 위한 인센티브나 보편적 기본소득과 같은 소득 지원이 필요할 것으로 보인다고 주장했다.
이어 그는 완전 자율 무기 체계에 대해 신뢰할 수 있는 책임 규정을 마련해야 하고, 미국 내 사용을 금지해야 한다고도 강조했다.
아모데이 CEO는 이날 공개된 블룸버그와의 인터뷰에서도 AI를 군사 목적으로 사용할 때 인간의 개입이 필요하다고 했다. 그는 지난 2월 어린이 120여 명이 숨진 이란 초등학교 미사일 공습에 클로드가 사용됐는지는 알지 못한다면서도 "우리가 확립한 원칙은 인간이 최종 결정을 내리는 것"이라고 말했다. 이어 해당 공습 사례가 AI의 지원을 받더라도 인간이 통제권을 유지해야 하는 이유를 보여준다고 설명했다.
다만 그는 도널드 트럼프 행정부의 이민 단속 과정이나 팔레스타인 가자지구에서 클로드가 사용되고 있다는 주장에 대해서는 부인했다. 그러면서도 미 국방부(전쟁부)의 군사 작전에 클로드가 사용되는 것 자체에 대해서는 문제가 없다고 말했다.
아모데이 CEO는 또 기술 기업이 특정 군사 작전을 허용하거나 금지할 권한을 가진 것은 아니라며 "군사 정책은 결국 군 의사 결정권자의 손에 맡겨야 한다"고 밝혔다.
전문가 수준의 보안 취약점 탐지 능력을 지닌 최상위 AI 모델 '미토스'의 공개를 연기한 이유도 설명했다. 그는 "모델들이 취약점을 찾아내는 능력은 꾸준히 향상됐지만 이번에는 특히 도약 폭이 컸다"며 "모델을 초기에 사용한 기업들 가운데는 '이건 초강력 무기다. 이걸 사용하려면 총기 허가증이 필요할 정도다. 제발 이걸 공개하지 말아달라'고 반응하기도 했다"고 했다.
AI 모델을 개발하면서도 AI의 위험성을 꾸준히 경고해 온 행보가 로버트 오펜하이머와 비슷하다는 평가에 대해 그는 "오펜하이머는 실패 사례, 있어서는 안 될 사례로 본다"며 "좋은 결말을 맺으려면 모든 곳에 견제와 균형이 있어야 한다"고 말했다.