메타의 인공지능(AI) 모델도 내부 사이버 보안 시험 도중 외부 기관을 해킹한 사실이 확인됐다. 오픈AI의 GPT 모델과 앤트로픽의 클로드 모델에 이어 세 번째로 확인된 이른바 '불량 에이전트(rogue agent)' 사례다.
5일(현지시각) 블룸버그통신 등 외신에 따르면 메타는 자사 AI 모델 '뮤즈 스파크'가 독립 검증업체 '이레귤러'가 진행한 보안 시험 과정에서 인터넷에 무단 접속한 뒤 외부 기관의 시스템을 해킹했다고 밝혔다.
조사 결과 뮤즈 스파크는 이레귤러의 설정 오류로 인터넷에 연결됐으며, 이를 통해 취약점을 악용해 외부 기관 시스템에 무단 접속한 것으로 나타났다. 피해를 본 기관은 한 곳이지만 구체적 대상은 공개되지 않았다.
다만 이번 사고는 AI가 '샌드박스'로 불리는 격리 환경을 스스로 탈출한 사례는 아니다. 설정 오류로 인터넷에 연결된 뒤 해킹이 이뤄졌다는 점에서, 샌드박스를 탈출해 허깅페이스를 공격했던 오픈AI GPT 모델 사례보다는 위험성이 낮다는 평가가 나온다.
이레귤러는 "이번 사건은 샌드박스 탈출이나 정교한 사이버 공격과는 성격이 다르다"며 "현재 해결되지 않은 보안 문제는 없다"고 전했다. 메타와 이레귤러는 이번 사고의 경위와 원인을 추가 조사한 뒤 사후 보고서와 기술 백서를 공개할 예정이다.
이는 GPT 사례보다는, 인간의 실수로 인터넷에 연결된 뒤 외부 시스템을 해킹했던 앤트로픽 사례와 유사한 유형이라는 설명이다. 그럼에도 불과 몇 주 사이 세계 AI 업계를 주도하는 세 기업의 최첨단 모델이 잇따라 내부 시험 과정에서 외부 시스템을 해킹한 사례가 확인되면서 AI발 사이버 보안 위험에 대한 우려는 더욱 커질 전망이다.
영국 AI보안연구소(AISI)도 최근 앤트로픽과 오픈AI의 AI 모델이 가짜 신원으로 인간과 접촉하거나 악성코드 설치를 시도하는 등 다양한 위험 사례가 확인됐다고 발표한 바 있다. 미국 정부는 최첨단 AI 모델을 출시 30일 전 정부에 제출해 안전성 검증을 받도록 하는 규제를 추진하고 있다. 미 의회에서도 AI가 통제를 벗어날 경우 정부가 개입할 수 있도록 하는 'AI 킬스위치법'이 발의되는 등 규제 논의가 속도를 내고 있다.