OpenAIは、青少年の人工知能（AI）依存リスクを抑えつつ学習に資する機能を備えた「青少年用ChatGPT」モードを19日に発売した。
利用者が自身の年齢を13〜17歳と入力するか、システムが利用者年齢を18歳未満と推定する場合、アカウントは自動で青少年用ChatGPTモードに切り替わる。
青少年用モードは、自傷、暴力、摂食障害、危険行為、性的・露骨なコンテンツなどについて青少年が質問または対話を試みる際、回答出力を強く制御するセーフティ機構を適用した。
利用者がセンシティブまたは私的な写真を投稿する際に注意を促す機能も搭載した。一定時間使用すると休憩を勧める通知を提供し、利用者がChatGPTを人間と誤認しないようAIである事実を継続的に知らせる。
また、青少年に恋愛感情を表現したり情緒的依存をあおったりせず、自身に感情や意識があるかのように話さないよう設計した。
保護者と連携した青少年アカウントは、子どものChatGPT利用を完全に遮断する「妨害禁止時間」（Quiet Hours）や、学習モードをデフォルトに設定する「学習時間」（Study Hours）を設定できる。
学習モードは、青少年が宿題をする際にChatGPTの提供する正解をそのまま写す不正行為を防ぐ装置を追加したものだ。利用者が質問しても、すぐに要約や回答を提示する代わりに、逆に問いを投げたり段階的な原理を押さえながら解法を見つけるよう支援する。
OpenAIは、児童・教育の専門家による研究を基に学習モードを設計したと説明した。
このようにOpenAIがセーフティ機能を大幅に強化した青少年向けチャットボットを投入したのは、新規株式公開（IPO）を前に法的リスクを解消する狙いとみられる。
最近OpenAIは、ChatGPTと交流していた10代の青少年が自傷や極端な選択に至ったり、ChatGPTを利用して銃乱射や殺害などの犯罪を共謀した事例が現れ、複数の関連訴訟に直面している。