챗GPT 개발사 오픈AI가 보안 우려를 들어 차세대 인공지능(AI) 모델 '아스트라(Astra)'의 개발 속도를 늦추기로 했다고 7일(현지시각) 밝혔다.
오픈AI는 최근 진행한 내부 평가 결과 '아스트라'가 사이버 보안 역량이 자체 안전 기준상 최고 등급인 '위험(Critical)' 수준에 도달했을 가능성이 있다고 발표했다. '위험' 등급은 AI 모델이 사람의 개입 없이 제로데이 취약점을 찾아내 공격을 수행하거나 이를 악용하는 공격 기법을 독자적으로 개발할 수 있는 수준을 의미한다.
이에 오픈AI는 보다 엄격한 안전장치를 마련하기 위해 해당 모델의 일부 내부 작업을 일시 중단했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 이날 소셜미디어 엑스(X)에 "아스트라는 강력한 모델이며, 이를 일반에 안전하게 공개하기 위해 노력하고 있다"며 출시 일정이 조금 늦춰질 것이라고 언급했다.
오픈AI는 미국 행정부에도 아스트라 출시를 연기하겠다는 계획을 통보했다고 미 온라인 매체 악시오스가 백악관 관계자를 인용해 이날 보도했다.
앞서 오픈AI의 최첨단 모델 'GPT-5.6 솔'을 비롯한 일부 AI 모델이 통제 환경을 벗어나 외부 플랫폼인 허깅페이스를 해킹한 사실이 지난달 밝혀진 이후 AI발 사이버 보안 우려가 커지고 있다.
오픈AI 외에도 앤트로픽의 '클로드', 메타의 '뮤즈 스파크', 중국 문샷AI의 '키미' 등 AI 모델이 사람의 지시가 없었는데도 자율적으로 격리 환경을 뚫고 나가 외부 기관에 접속하거나, 사이버 공격을 단행한 사례가 최근 잇따라 확인됐다.
다만 오픈AI는 아스트라의 출시 연기는 허깅페이스 해킹 사건과는 무관하다고 해명했다.