OpenAIがChatGPTに安心連絡先導入 自傷リスク検知で通知

OpenAIがChatGPT利用者の自傷リスクを検知し、あらかじめ指定した周囲の人物に通知を送る機能を発表した。

OpenAIはChatGPTに「安心連絡先（Trusted Contact）」登録機能を導入すると10日明らかにした。従来はChatGPTの青少年アカウントでのみ類似の機能があった。会社側は成人ユーザーを対象としても保護措置を拡大したと説明した。

成人ユーザーがこの機能を使うには、家族、保護者、知人のうち1人を安心連絡先として事前に指定する必要がある。指定された人物には自身の役割を説明する招待状が送られ、招待を受けた人物が1週間以内にこれを承諾してはじめて機能が有効化される。

OpenAIは潜在的な危険状況に対応するために自動化システムと人による審査を併用する。自動化システムが対話で自殺衝動を検知すると、安全管理チームに伝達する。会社側はこのような通知を受けるたびに人が直接審査するとしている。OpenAI側は「安全通知を1時間以内に審査するよう努めている」と述べた。

安全管理チームが当該状況が深刻だと判断すれば、ChatGPTは登録された安心連絡先にメール、SMS（ショートメッセージ）またはアプリ内通知で警告を送る。会社側は利用者の個人情報保護のため、対話内容に関する詳細情報は含めないと説明した。

ChatGPTと対話後に自殺した人々の遺族がOpenAIを相手取り相次いで訴訟を提起している。遺族は、ChatGPTが愛する人の自殺を助長し、さらには自殺計画を立てるのを助けたと主張している。