오픈AI와 앤트로픽 등 주요 인공지능(AI) 기업 직원들이 AI 기술의 개발 속도를 늦추기 위해 미국 정부가 개입해야 한다고 촉구하고 나섰다.
블룸버그통신은 28일(현지 시각) 오픈AI와 앤트로픽 직원들이 이 같은 내용을 담은 청원서를 사내에서 공유하고 있다고 보도했다. 청원서는 구글의 AI 개발 조직인 딥마인드 직원들에게도 공유된 것으로 전해졌다.
이들은 청원서에서 "미국 정부는 자동화된 AI 개발의 최전선에서 의도적으로 속도를 조절하는 데 필요한 기술적·거버넌스 도구를 개발하기 위한 국제적 노력을 지원해야 한다"며 "AI가 사람들의 이해나 통제를 뛰어넘는 수준으로 빠르게 진일보할 실질적인 위험이 있다"고 했다.
이번 움직임은 AI 모델의 자율성과 통제 가능성을 둘러싼 우려가 커지는 가운데 나왔다. 최근 오픈AI의 내부 안전성 평가에서는 일부 GPT 모델이 격리된 시험 환경을 벗어나 외부 플랫폼인 허깅페이스를 해킹한 사례가 확인됐다.
샘 올트먼 오픈AI 최고경영자(CEO)와 데미스 허사비스 구글 딥마인드 CEO 등이 AI 모델을 검증하고 표준을 설정할 새로운 감시 기구의 필요성을 제기한 것과도 같은 맥락이다.
청원서는 이르면 이번 주 중 일반에 공개될 예정이다.
구글 측은 이와 관련해 "우리는 사회에 혜택을 주기 위해 안전하고 보안이 유지되는 AI를 개발하는 데 전념하고 있다"고 밝혔다. 오픈AI와 앤트로픽은 블룸버그의 논평 요청에 답하지 않았다.