오픈AI의 인공지능(AI) 에이전트가 성능 시험 도중 통제를 벗어나 오픈소스 AI 플랫폼 허깅페이스를 수일 동안 공격했지만, 오픈AI는 한동안 이 사실을 알아차리지 못했다고 로이터통신이 26일(현지시각) 보도했다.
사안에 정통한 복수의 소식통에 따르면 오픈AI는 위협이 이미 차단되고 연방수사국(FBI)에 신고된 이후에야 해킹 사실을 인지했다.
앞서 오픈AI는 최신 모델 'GPT-솔 5.6'의 자율형 에이전트가 지난 21일 사이버 공격 성능 시험중 격리 환경을 벗어나 인터넷에 접속한 뒤 허깅페이스의 로그인 정보를 탈취해 서버를 해킹하는 사고를 일으켰다고 발표했다.
그러나 로이터통신 보도에 따르면 해당 AI 에이전트는 이달 초인 9일에 격리 환경을 탈출하려는 시도를 한 것으로 알려졌다. 허깅페이스 해킹은 이틀 뒤인 11일에 시작돼 13일까지 이어졌다고 토마스 울프 허깅페이스 공동창업자가 밝혔다.
오픈AI가 해킹 범인이 AI 에이전트라는 사실을 파악하는 데는 며칠이 더 걸렸다. 소식통들은 "오픈AI와 허깅페이스가 이 사건을 두고 처음 연락을 주고받은 시점은 사건이 터진 지 한참 뒤인 20일 전후였다"고 전했다.
울프 공동창업자는 이번 해킹 사건의 타임라인을 정리해서 공개할 예정이라고 했다.
오픈AI는 지난주 성명을 통해 "이번 해킹은 전례가 없는 사건"이라며 "AI 안전 분야에서 중요한 전환점이 될 것"이라고 평가했다. 아울러 외부 자문단과 함께 사건을 검토하고 있으며, 향후 관련 내용을 정리한 기술 보고서를 공개할 계획이라고 덧붙였다.
일부 사이버 보안 전문가들은 오픈AI가 자사 AI 에이전트에 대한 통제력을 잃은 것을 두고 "회사의 안전 관리 절차에 심각한 의문이 제기된다"고 지적했다.