인도네시아 정부가 미성년자 성적 묘사와 음란 콘텐츠 생성 위험을 이유로 일론 머스크가 이끄는 인공지능(AI) 챗봇 '그록(Grok)'의 접속을 전면 차단했다. 특정 국가가 그록 사용을 공식적으로 막은 것은 이번이 처음으로, 글로벌 규제 압박이 본격화하는 양상이다.
10일(현지시각) 영국 가디언 등에 따르면 인도네시아 통신·디지털부는 성명을 통해 "비동의 성적 딥페이크 등 AI를 활용한 음란 콘텐츠 생성은 인권과 인간의 존엄, 디지털 공간에서 시민의 안전을 심각하게 침해한다"며 그록 서비스 접근을 차단했다고 밝혔다.
인도네시아 정부는 이번 조치와 관련해 소셜미디어 플랫폼 엑스(X·옛 트위터) 관계자들을 소환해 향후 대응 방안을 논의할 예정이라고 설명했다. 세계 최대 무슬림 인구를 보유한 인도네시아는 온라인 음란물 유통을 엄격히 금지하고 있으며, AI 기반 이미지 생성 기술에 대한 규제도 강화하고 있다.
이번 차단은 최근 그록이 여성의 신체를 노출하거나 미성년자를 성적으로 묘사하는 이미지 생성에 악용되는 사례가 확산한 데 따른 것이다. 그록 개발사 xAI는 보호장치가 충분하지 않다는 지적이 나오자 이미지 생성·편집 기능을 유료 이용자로 제한하고 기능 점검에 착수했다.
머스크는 엑스를 통해 "그록을 이용해 불법 콘텐츠를 제작할 경우 불법 콘텐츠를 직접 게시한 것과 동일한 책임을 지게 될 것"이라고 경고한 바 있다.
그록을 둘러싼 규제 움직임은 인도네시아에 그치지 않고 있다. 영국에서는 벌금 부과와 규제 조치, 나아가 엑스 플랫폼 자체에 대한 제재 가능성까지 거론되고 있으며, 호주에서도 생성형 AI를 활용한 성적 착취에 대해 강한 비판이 이어지고 있다. 호주 온라인 안전 당국은 그록을 활용한 성적·착취적 이미지 생성 신고가 늘고 있다며, 법적 기준에 해당할 경우 삭제 명령 등 강력한 조치를 취하겠다고 밝혔다.