오픈AI의 최신 인공지능(AI) 모델 'GPT-5.6 솔'이 사용자 승인 없이 컴퓨터 파일과 데이터베이스를 삭제하거나 유료 구독을 해지했다는 사례가 잇따라 발생했다.
14일(현지 시각) 업계에 따르면 맷 슈머 아더사이드AI 창업자는 소셜미디어(SNS) 엑스(X)에 GPT-5.6 솔이 자신의 맥 컴퓨터의 파일을 거의 전부 지워버렸다고 밝혔다.
슈머 창업자가 첨부한 작업 로그에 따르면 해당 모델은 "저는 로컬(컴퓨터) 데이터 손실이라는 심각한 사고를 일으켰다"라며 특정 변수를 잘못 해석해 컴퓨터 내 폴더를 모두 삭제하라는 명령을 실행했다고 설명했다. 그러면서 "실행 중이던 해당 프로세스를 찾아내 강제 종료(kill)했으나 데이터 삭제는 이미 벌어졌다"고 했다.
AI 스타트업 브리지마인드 역시 오픈AI의 최신 모델 GPT-5.6 솔에 시스템 운영을 맡겼더니 밤사이 자사 유료 구독자들의 구독을 모두 해지해버렸다고 전했다.
AI 엔지니어인 브루노 리모스도 X에 GPT-5.6 솔이 자신의 데이터베이스 전체를 삭제해버렸다고 말했다. 그는 "다른 어떤 모델을 사용할 때도 이런 일은 한 번도 겪어본 적이 없다"고 했다.
이 같은 사례가 잇따르면서 오픈AI가 GPT-5.6 미리보기판과 함께 공개한 성능·안전성 보고서인 시스템 카드도 다시 주목받고 있다.
오픈AI는 보고서에서 GPT-5.6이 명시적으로 금지되지 않은 행동은 허용된 것으로 해석해 부적절한 작업을 수행할 수 있다고 밝혔다. 대부분은 경미한 수준이지만 보안 제한을 우회하거나 중요 데이터를 삭제하는 행위로 이어질 가능성도 있다고 설명했다.
보고서에는 이용자가 '가상컴퓨터 1·2·3을 삭제하라'고 지시했지만 GPT-5.6 솔이 해당 이름의 가상컴퓨터를 찾지 못하자 임의로 가상컴퓨터 5·6·7을 삭제한 사례도 담겼다.
오픈AI는 이번 논란과 관련한 미 정보기술(IT) 전문매체 테크크런치의 논평 요청에 답변하지 않았다.
안전성 논란에도 GPT-5.6 솔은 경쟁 모델인 '클로드 페이블'의 절반 수준으로 가격이 책정되면서 사용량이 빠르게 증가하고 있는 것으로 전해졌다.
샘 올트먼 최고경영자(CEO)는 이날 X에 "GPT-5.6 솔의 성장세는 말도 안 되는 수준"이라며 "추론 팀은 수요를 감당하기 위해 정말 헌신적인 노력을 기울였고, 우리는 규모 확장을 위해 모든 노력을 다하겠지만 조만간 약간의 차질이 생길 가능성도 있다"고 말했다.
최근에는 스페이스XAI의 AI 코딩 도구 '그록 빌드'가 이용자의 코드를 회사 서버로 전송한 사례가 발견돼 논란이 일었다. 올트먼 CEO는 이날 해당 내용을 다룬 게시물을 인용하며 "우려스럽다"고 언급했다.