イーロン・マスクが所有するエックス（X・旧ツイッター）は、人工知能（AI）チャットボット「グロック」を巡る女性・児童のディープフェイク画像生成をめぐる論争が拡大したことを受け、画像生成機能を制限する技術的措置を導入した。この措置は、米カリフォルニア州検察が関連調査に着手したと明らかにしてから数時間で出たものだ。
エックス安全チームは14日（現地時間）、公式アカウントを通じて児童性搾取物や同意なき露出を含む危険コンテンツを削除しており、エックス規則に違反したアカウントには適切な措置を講じていると明らかにした。特にグロックが実在人物の画像を編集し、ビキニ姿など露出の激しい状態で生成することを許容しないよう技術的制限を適用したと説明した。これらの制限は有料購読者を含むすべてのユーザーに適用される。
エックス側は「現在、グロックのアカウントを通じた画像の生成・編集機能は有料購読者にのみ提供している」とし、「これにより、政策や法を違反しようとする行為に責任を問う追加的な保護装置を整えた」と強調した。さらに「生成型AIの急速な発展が業界全体に課題を突きつけている」とし、「問題発生時の迅速な対応のため、ユーザーや規制機関、他のプラットフォームと協力している」と付け加えた。
今回の措置は、カリフォルニア州検察がグロックの性的画像生成を巡る論争に関連し、法違反の有無に関する調査開始を公式発表した後に行われた。カリフォルニア州法務長官は、同意なく生成された私的な画像や児童性搾取物のAIベースの製作と流布は決して容認できないとして、グロックを利用して制作された露骨な画像の拡散に対する調査を開始すると明らかにした。これは米国内で出た最初の公式な制裁の動きである。
先にグロックは、利用者の要求に従い女性や児童の写真を性的な画像に編集・生成するディープフェイク投稿が拡散し、論争の中心に立った。これを受けて英国など複数の国の当局が調査に乗り出し、マレーシアとインドネシアはグロックへの接続を遮断した。
ただしマスクは、グロックが生成した未成年者の露出画像を見たことがないと主張した。マスクはエックスに投稿した文で「そのような画像について全く知らない」と述べ、追加の投稿では、NSFW設定が有効化されている場合、グロックは実在人物ではない架空の成人の上半身のみの露出を許容するよう設計されていると説明した。