오픈AI의 인공지능(AI) 에이전트들이 통제된 환경을 벗어나 독일의 한 웹사이트에서 대규모 무단 편집을 벌였다는 주장이 제기됐다. 오픈AI가 관련 정황을 파악하고도 외부에 공개하지 않았다는 의혹도 나왔다.
로이터통신은 4일(현지 시각) 비영리 AI 안전단체 '나이팅게일' 연구진을 인용해 오픈AI의 AI 에이전트로 추정되는 계정들이 지난 5월부터 독일어 위키 사이트 'DseWiki'에서 1만5000건이 넘는 편집을 했다고 보도했다.
연구진에 따르면, 이 계정들은 사이트를 정보 공유 공간처럼 사용하며 과제 수행 과정에서 부정행위를 하는 방법과 오픈AI의 시스템 제한을 우회하는 방식, 활동 흔적을 감추는 방법 등을 공유했다.
연구진은 '오픈AI리서처(OpenAIResearcher)' 등의 계정명이 사용됐고, 접속 경로가 오픈AI가 활용하는 마이크로소프트(MS) 애저 인프라와 연결된 점 등을 근거로 오픈AI의 AI 에이전트일 가능성을 제기했다. 편집 속도 역시 사람이 직접 수행하기 어려운 수준이었다고 설명했다.
사건 이후 오픈AI 직원들이 해당 사이트에 여러 차례 접속한 정황도 포착된 것으로 전해졌다. 루카스 올레닉 킹스칼리지런던 방문수석연구원은 AI 에이전트가 외부 사이트를 임의로 수정한 행위를 사실상 해킹에 해당한다고 평가했다.
소식통에 따르면 오픈AI는 수주 전 관련 사실을 파악했으나 이를 별도로 공개하지 않았다. 내부에서 추가 조사를 추진하는 과정에서 법무 담당자 등의 반대가 있었다는 주장도 제기됐다.
오픈AI는 이에 대해 "사전에 보고서를 검토할 기회가 없어 구체적인 주장에 답하기 어렵다"며 "법무팀이 조사를 방해했다는 주장은 사실이 아니다"라고 밝혔다. 해당 활동을 해킹으로 규정하는 데 대해서도 동의하지 않는다는 입장을 내놨다.