インドネシア政府が未成年者の性的描写とわいせつコンテンツ生成のリスクを理由に、イーロン・マスクが率いる人工知能（AI）チャットボット「グロック（Grok）」への接続を全面的に遮断した。特定の国家がグロックの使用を公式に禁じたのは初めてで、グローバルな規制圧力が本格化する様相だ。
10日（現地時間）、英紙ガーディアンなどによると、インドネシア通信・デジタル省は声明で「不同意の性的ディープフェイクなど、AIを活用したわいせつコンテンツの生成は、人権と人間の尊厳、デジタル空間における市民の安全を深刻に侵害する」として、グロックのサービスへのアクセスを遮断したと明らかにした。
インドネシア政府は今回の措置に関連し、ソーシャルメディアプラットフォームのエックス（X、旧ツイッター）の関係者を召喚し、今後の対応策を協議する予定だと説明した。世界最大のムスリム人口を抱えるインドネシアは、オンラインのわいせつ物流通を厳格に禁じており、AIベースの画像生成技術に対する規制も強化している。
今回の遮断は、最近グロックが女性の身体を露出させたり未成年者を性的に描写する画像生成に悪用される事例が拡大したことを受けたものだ。グロック開発元のxAIは保護装置が十分ではないとの指摘が出ると、画像の生成・編集機能を有料利用者に限定し、機能の点検に着手した。
マスクはエックスを通じて「グロックを利用して違法コンテンツを制作した場合、違法コンテンツを直接投稿したのと同一の責任を負うことになる」と警告したことがある。
グロックをめぐる規制の動きはインドネシアにとどまらない。英国では罰金賦課や規制措置、さらにはエックス・プラットフォーム自体への制裁の可能性まで取り沙汰されており、オーストラリアでも生成型AIを活用した性的搾取に対する強い批判が続いている。オーストラリアのオンライン安全当局は、グロックを活用した性的・搾取的画像の生成に関する通報が増えているとして、法的基準に該当する場合は削除命令などの強力な措置を取ると明らかにした。