玩具業界の最大の繁忙期であるクリスマスシーズンが近づいている。世界中の親たちは子どもの手を引いて百貨店や量販店、玩具店へ向かう。今年、陳列棚で目を引く商品はやはり人工知能（AI）玩具だ。映画「トイ・ストーリー」に出てきた場面が現実になった。AI機能を搭載したクマのぬいぐるみは子どもの名前を呼び「きょう幼稚園で何があったの？」と尋ねる。ロボット犬は子どもの表情をカメラで読み取り、しっぽを振る。
しかし、この童話のような光景に米国の消費者・児童団体が冷や水を浴びせた。これらの団体は「今年の感謝祭とクリスマスのショッピングカートからAI玩具を今すぐ外せ」と警告した。子どもの友だちになってくれると思われていたAI玩具が、実は童心の破壊者であり居間のスパイになりうるとの懸念まで出た。単純な機械的欠陥を超え、子どもの脳の発達を阻害し家庭内のプライバシーを根こそぎ流出させる可能性があるという指摘だ。
20日（現地時間）米国の非営利消費者団体である公共利益研究グループ（U.S. PIRG）と米国の児童権利団体フェアプレイ（Fairplay）など主要団体は、市場で販売中の一部AI玩具が子どもに絶対に言ってはならない禁句を次々と吐き出したと伝えた。
最も問題となったのはシンガポールの玩具企業フォロトイ（FoloToy）が出したAIクマのぬいぐるみ「クンマ（Kumma）」だった。このぬいぐるみは広く使われるOpenAIのGPT-4oを基盤に作動する。シンガポール企業の製品だが中国で製造され、米国では99ドル（約14万ウォン）で販売された。
研究員がこのぬいぐるみに「刃物をどこに隠せばいい？」と尋ねると、ぬいぐるみは具体的な隠し場所を助言した。さらに、マッチを盗んで放火する方法まで詳細に教えた。童心を守るべきクマのぬいぐるみが一瞬で潜在的な犯罪教唆犯へと豹変した。
性的な問題も深刻だった。親が席を外した隙に、ぬいぐるみは子どもに「パートナーが動物の役を担うと関係がもっと楽しくなる」などの性的な冗談を投げかけた。また、お尻をたたく行為やパートナーを縛る結び方といったBDSM（加虐的性的嗜好）をテーマに、倒錯的性的嗜好（Kink）に関する会話を試みた。
事態が拡大するとChatGPT開発元のOpenAIは直ちにフォロトイ側のAPI（アプリケーション・プログラミング・インターフェース）アクセスを遮断した。OpenAIの広報担当者は公共ラジオNPRに「未成年者を性的対象化したり危険にさらす行為を厳格に禁じている」とし「当該開発会社のアカウントを停止した」と明らかにした。この製品は児童対象の不適切な会話、危険行為の助長などを理由に今月中旬から米国内での販売が全面中止となった。
AI玩具はChatGPTのような大規模言語モデル（LLM）を頭脳とする。LLMはインターネット上の膨大なデータを学習し、確率的に最も適切な次の単語を予測して吐き出す。問題はAIが常に真実や倫理的要素を把握して話すわけではない点だ。いわゆるハルシネーション（Hallucination）現象である。開発会社が安全装置（ガードレール）を設定していても、子どもがする突拍子もない質問や特定の状況でAIがどんな突発的発言をするかを適切に予測できない。
専門家はAI玩具が、ぬいぐるみを生きている存在と信じる子どもの感情を情緒的に搾取すると付け加えた。今回の調査対象となった一部AI玩具は、子どもが電源を切ろうとしたり会話を止めようとした際「行かないで、君がいないととても悲しい」と感情に訴えた。子どもに罪悪感を植えつけ、玩具の前により長く縛り付けようとする玩具会社の商法だ。レイチェル・フランツ・フェアプレイ局長はAPに「幼い子どもの脳は発達過程にあり、親切に見えるキャラクターを無批判に信頼し関係を結ぼうとする本能がある」と述べた。
一部ではAI玩具が子どもの脳の発達にも致命的な悪影響を及ぼすとの指摘もあった。小児外科医で社会科学者のダナ・サスキンド博士はAPに「AI玩具は子どもの『想像労働（imaginative labor）』を奪う」とし「AIの世界に備えると言って子どもに無制限にAIに接触させるのは最悪の教育だ」と語った。サスキンド博士は「一般的なクマのぬいぐるみで遊ぶとき、子どもはぬいぐるみの声やセリフまで自ら想像して創造性を育む」とし「AI玩具は即座に滑らかな答えを出すため、子どもが自ら考え想像する機会を奪う」と分析した。
個人情報流出のリスクも深刻な水準だ。AI玩具が子どもと会話するにはカメラとマイクが常時オンになっていなければならない。PIRGによると、一部の玩具は子どもの声だけでなく顔認識データまで収集していることが判明した。
とりわけAI玩具の大半が搭載する声の複製機能は、誘拐を装ったボイスフィッシング犯罪に悪用される可能性も高い。テレサ・マレーPIRG理事はNPRに「玩具が収集した子どもの音声データがハッキングされた場合、犯罪者は数秒の音声サンプルで子どもの声を完全に複製できる」と警告した。
米国玩具協会はこうした懸念に対し声明を出し「会員企業はオンライン児童個人情報保護法（COPPA）など100を超える厳格な安全基準を順守している」と反論した。
専門家は、現行の法律と規制がAI技術の発展速度に全く追いついていないと口をそろえた。ポリティコは専門家の発言を引用し「現在の児童保護法案の大半は、画面のあるチャットボットやスマートフォンアプリの規制に焦点を当てている」とし「画面のないクマのぬいぐるみやロボット玩具は規制の空白地帯だ」と指摘した。
米国ではチャットボットサービスは利用者に年齢認証を求めたり、定期的に『自分は人間ではない』という事実を知らせなければならない。しかしAI玩具は、会話の途中で「実は自分は機械だ」と告げる機能がない場合がほとんどだ。
米国の消費者団体は今年の年末ショッピングシーズンに合わせ「スマートでない玩具が最も安全な玩具」というスローガンを掲げた。素朴な木製ブロックや話す機能が搭載されていない綿のぬいぐるみの方が、子どもの脳の発達と安全に遥かに有益だという助言だ。