오픈AI는 청소년들의 인공지능(AI) 의존 위험을 줄이는 동시에 학습에 도움이 될 수 있는 기능이 담긴 '청소년용 챗GPT'(ChatGPT for Teens) 모드를 19일 출시했다.
이용자가 자신의 나이를 13∼17세로 입력하거나, 시스템이 이용자 연령을 18세 미만으로 추정하는 경우 계정이 자동으로 청소년용 챗GPT 모드로 변경된다.
청소년용 모드는 자해, 폭력, 섭식 장애, 위험 행동, 성적·노골적 콘텐츠 등에 대해 청소년이 질문하거나 대화를 시도할 때 답변 출력을 강하게 통제하는 안전장치가 적용됐다.
이용자가 민감하거나 사적인 사진을 올릴 때 주의를 주는 기능도 탑재됐다. 일정 시간 사용하면 휴식을 권하는 알림을 제공하고, 이용자가 챗GPT를 사람으로 오인하지 않도록 AI라는 사실을 지속적으로 알린다.
또 청소년에게 연애 감정을 표현하거나 정서적 의존을 부추기지 않으며, 자신에게 감정이나 의식이 있는 것처럼 말하지 않도록 설계됐다.
부모와 연결된 청소년 계정은 자녀의 챗GPT 사용을 아예 차단하는 '방해 금지 시간'(Quiet Hours)이나 학습 모드를 기본값으로 설정하는 '학습 시간'(Study Hours)을 설정할 수 있다.
학습 모드는 청소년들이 숙제할 때 챗GPT가 제공하는 정답만 베끼는 부정행위를 막는 장치를 추가한 것이다. 이용자가 질문을 하더라도 단번에 요약이나 답변을 제공하는 대신 도로 질문을 던지거나 단계별 원리를 짚어가며 해법을 찾도록 돕는다.
오픈AI는 아동·교육 전문가들의 연구를 바탕으로 학습 모드를 설계했다고 설명했다.
이처럼 오픈AI가 안전장치를 대폭 추가한 청소년용 챗봇을 내놓은 것은 기업공개(IPO)를 앞두고 사법 리스크를 해소하기 위한 것으로 풀이된다.
최근 오픈AI는 챗GPT와 교류하던 10대 청소년들이 자해하거나 극단적 선택을 하거나, 챗GPT를 이용해 총기 난사나 살해 등 범죄 모의를 한 사례가 나타나면서 여러 건의 관련 소송에 직면해 있다.