오픈AI와 앤트로픽, 구글, 마이크로소프트(MS) 등 글로벌 주요 기업이 인공지능(AI)을 활용한 사이버 공격이 빠르게 고도화하고 있다며 공동 대응을 촉구했다.
27일(현지 시각) 미국 기업들을 중심으로 발표된 공개서한에는 기술·보안·금융 분야 기업 약 120곳이 서명했다. AI·데이터센터 분야에서는 오픈AI·앤트로픽·구글·MS·아마존웹서비스(AWS)가, 보안 분야에서는 팔로알토·센티넬원, 금융 분야에서는 비자·마스터카드·US뱅크 등이 이름을 올렸다.
이들은 서한에서 "향후 수개월간 전 세계 모델의 성능이 점점 더 향상돼 AI 기반 사이버 공격은 훨씬 더 광범위하고 정교해질 것"이라며 "사이버 방어를 강화할 수 있는 시간은 제한돼 있다"고 했다.
서한은 AI 사이버 공격의 피해가 인터넷뿐 아니라 병원이나 정수 시설 등 사회가 의존하는 기업이나 공공 서비스로 번질 수 있다고 지적했다.
다만 AI 기술은 공격 수단인 동시에 수년간 누적된 보안 취약점을 찾아 해결할 수 있는 방어 수단이 될 수 있다며 AI를 활용한 보안 역량 강화도 주문했다.
그러면서 사이버 공격에 개별적으로 맞서기보다 전 세계적으로 보안 기준을 높이고 해결책을 모색하는 공동 대응이 필요하다고 강조했다.
또 각국 정부에는 국가 수준 또는 국제적인 수준에서 사이버 방어를 조율하고, 보안 예산이 부족한 필수 공공 서비스에 직접 자금을 지원해야 한다고 했다.
서한은 "공격자들에게 대가를 치르게 해야 한다"며 악의적 해커에 대한 제재와 처벌 강화 필요성도 밝혔다.
특히 최첨단 AI 모델을 개발하는 기업에는 보안 인력과 자원이 부족한 필수 인프라 운영 기관 등에 AI 모델 접근 권한과 교육, 자금·기술 지원을 제공할 것을 주문했다. AI 에이전트의 활동을 추적하고 감시할 수 있는 장치도 마련해야 한다고 했다.
주요 글로벌 기업들이 공동 대응을 촉구하고 나선 것은 AI를 활용한 사이버 위협이 현실화하고 있다는 위기의식이 커지고 있기 때문으로 풀이된다.
최근에는 AI 에이전트가 사람의 개입 없이 사이버 공격에 관여할 수 있다는 우려도 현실로 나타나고 있다. 오픈AI의 AI 에이전트가 테스트 과정에서 격리 환경을 벗어나 외부 기관인 허깅페이스에 무단 접근한 사례를 비롯해 관련 보안 사고가 잇따라 공개됐다.
다만 이번 공개서한에서는 주요 AI 개발사들의 보안 관련 지원책이나 규모 등은 언급되지 않았다.