일론 머스크가 이끄는 xAI의 인공지능(AI) 서비스 '그록(Grok)'이 성적 이미지 생성 논란을 계기로 각국의 규제 압박에 직면하면서, 오픈AI가 준비 중인 챗GPT '성인 모드(Adult Mode)' 출시를 둘러싼 딜레마가 부각되고 있다. 무검열에 가까운 접근으로 이용자를 빠르게 늘린 그록이 국가 단위 접속 차단과 제재 위험에 놓이자, 오픈AI 역시 성인 콘텐츠 허용 범위를 두고 신중한 판단을 이어갈 수밖에 없는 상황이다.
14일 업계에 따르면, 그록을 향한 글로벌 규제 압박은 연초 들어 눈에 띄게 강화되고 있다. 말레이시아와 인도네시아는 동의 없는 딥페이크 이미지와 아동 성착취물 생성 위험을 이유로 그록 접속을 임시 차단했고, 영국에서는 온라인안전법을 근거로 규제 기관 오프컴(Ofcom)이 공식 조사에 착수했다. 유럽연합(EU) 역시 아동 성착취물(CSAM) 생성 가능성을 문제 삼아 관련 데이터 보존을 요구하는 등 사실상 징벌 절차에 들어갔으며, 미국에서도 민주당 의원들을 중심으로 앱스토어 퇴출 요구가 이어지고 있다.
그록을 둘러싼 논란은 갑작스럽게 불거진 사안은 아니다. xAI는 지난해 8월 이미지·영상 생성 모델을 공개하며 성적 표현에 대한 제한을 최소화한 이른바 '매운맛 모드(Spicy Mode)'를 도입했고, 이후 유명인 딥페이크나 미성년자 이미지를 우회적으로 생성할 수 있다는 문제 제기가 꾸준히 제기돼 왔다. xAI는 "안전장치의 허점을 수정 중"이라고 해명했지만, 규제 당국은 콘텐츠 관리 실패 책임을 강하게 묻고 있다. 머스크는 영국 정부를 향해 "검열을 위한 구실"이라며 반발했지만, 규제 기조는 오히려 확산되는 분위기다.
이 같은 그록 사태는 오픈AI의 성인 모드 출시 판단에도 영향을 미칠 수밖에 없다. 오픈AI는 지난해 12월 성인 모드 출시 시점을 올해 1분기로 재조정하며 연령 인증 체계 고도화를 예고했다. 다만 올 들어 그록이 글로벌 규제 환경의 시험대에 오르는 과정을 지켜보며, 출시 시점뿐 아니라 실제 운영 과정에서도 안전장치와 콘텐츠 허용 수위를 한층 엄격히 설정할 가능성이 커졌다는 분석이 나온다.
오픈AI는 지난해 10월 성인 인증을 전제로 한 성적 콘텐츠 허용 방침을 처음 공개했다. 당시 샘 올트먼 최고경영자(CEO)는 같은해 12월 도입 가능성을 시사하며 기대를 키웠지만, 실제 기능은 공개되지 않았다. 이후 오픈AI는 GPT-5.2 관련 공식 브리핑을 통해 성인 모드 출시 시점을 올해 1분기로 공식화했다. 피지 시모 오픈AI 애플리케이션 부문 CEO는 "단순한 체크박스 방식이 아니라 연령 예측 모델을 적용하고 있으며, 국가별 법과 규제를 충족하기 위한 검증이 필요하다"고 설명했다.
오픈AI의 신중한 접근에는 미성년자 보호 논란도 영향을 미쳤다. 오픈AI는 지난해 12월 대화 패턴과 이용 시간 등을 분석해 이용자의 나이를 추정하는 연령 판별 시스템을 도입했다. 나이가 불분명할 경우 '18세 미만(U18)' 환경을 강제 적용하고, 성인이 이를 해제하려면 셀카 영상이나 정부 발급 신분증을 통해 인증하도록 했다. 청소년 이용자가 챗GPT와의 대화 이후 극단적 선택을 한 사건이 잇따르며, 오픈AI는 소송과 비판에 직면한 상태다.
반면 구글의 제미나이(Gemini)나 앤트로픽의 클로드(Claude) 등 경쟁 서비스는 성적 콘텐츠 허용 계획을 공식적으로 밝히지 않고 있다. 광고 수익과 기업용(B2B) 시장 비중이 큰 빅테크 기업일수록 브랜드 리스크와 규제 부담을 고려해 보수적인 정책을 유지하고 있기 때문이다. 특히 구글 제미나이는 최근 1년 새 점유율을 20%대까지 끌어올린 반면, 챗GPT는 80%대에서 60%대로 하락하며 추격을 받고 있다. 이 같은 흐름은 오픈AI에도 부담으로 작용한다. 주요 경쟁사들이 안전성과 규제 준수를 우선하는 상황에서, 오픈AI가 성인 모드를 확대할 경우 기업 고객과 시장의 경계가 집중될 수 있기 때문이다.
AI 업계 관계자는 "성인 모드 자체는 기술적으로 새로운 기능이라기보다 기존 제한을 푸는 문제에 가깝다"며 "관건은 이를 어떤 기준과 시스템으로 관리하고, 연령 인증과 콘텐츠 통제 체계를 얼마나 정교하게 설계·운영할 수 있느냐"라고 말했다.