中国で映画「マイノリティ・リポート」のように政府を批判したり、反政府デモに参加しそうな人物を事前に選別する人工知能（AI）技術を開発しようとした状況が明らかになった。通信記録やインターネット利用履歴、ソーシャルメディア活動、位置情報のように市民が残した過去と現在の痕跡をかき集め、将来反対者になる確率を算出する監視インフラである。
ニューヨーク・タイムズ（NYT）は1日（現地時間）、中国の監視企業ジズネットワーク（Geedge Networks）の流出文書10万件余りとヴァンダービルト大学研究陣の分析を基に、同社が2024年初めから政府支援の研究組織メサラボ（MESA Lab）とともに政治的リスク人物をAIで識別する技術を研究していたと報じた。
ジズネットワークは中国の国家レベルのインターネット検閲システムである万里防火壁（Great Firewall）の商用版を販売していた企業である。これまで特定サイトへの接続を遮断したり、検閲を回避する仮想私設網（VPN）の使用を根本から封じるソフトウエアを主に売ってきた。ジズネットワークスの主席科学者は「中国インターネット検閲の父」と呼ばれるファン・ビンシン（方滨兴）教授が務めている。流出した文書を分析したセキュリティ研究機関インターセックラボ（InterSecLab）は、同社がユーザーデータパケットの内容を覗き見るディープパケットインスペクション（DPI）と、移動通信加入者のリアルタイム監視機能を備えたシステムを供給すると説明した。
ジズネットワークはこのような監視網で収集したデータで、今後誰が政治的リスクになり得るかを推定した。同社が開発したシステムは、これまでデジタル空間に散在していたデータを一箇所に束ね、ユーザーの行動の流れを把握する。まず実名で登録された携帯電話番号をメッセンジャーアカウントと紐づけて管理する。ここに携帯端末の固有識別子とIPアドレスでVPNの回避接続履歴まで人物プロファイルに合算する。基地局の通信記録と衛星航法装置（GPS）信号まで加えれば、個人がいつデモ現場を通過し、どの活動家と接点を持ったかという時系列の軌跡が完成する。専門家は、中国のように国家が通信網を独占しプラットフォームの協力を強制する環境ではこの種の結合が容易だと評価した。
VPNを頻繁に使う、海外メディアのサイトを主に閲覧する、過去のデモ場所を繰り返し訪れる、反体制の活動家と接点を持つ、といった行動が結び付くと「潜在的政治リスク人物」のスコアが付く。このシステムによれば、どの本を購入し、どの劇場でどの映画を観たかに至るまで移動経路と結び付けて把握できる。ブレット・ベンソン・ヴァンダービルト大学政治学教授は「平凡なデータが当該ユーザーが誰で、次に何をするかを決める素材になる」と述べた。
流出文書によると、研究陣は2024年2月5日の会議で人々の「意図」を識別し「有害情報」を発見する方策を議論した。中国共産党の体制において有害情報は、凶悪犯罪情報を超え、政治的反対意見や体制批判、当局が抑え込もうとする敏感な論争点まで包含する。米カリフォルニア大学グローバル紛争協力研究所のジミー・グッドリッチ主任研究員は「中国の保安機関はデータ過負荷に直面している」とし、「AIの真の価値は莫大なデータの中から中核的脅威を選別することにある」と述べた。14億の市民を人が直接監視できないため、AIがまず精査すべき標的を絞り込む意図と解される。
専門家は、AIが付与したリスクスコアがそのまま犯罪容疑に直結する状況をめぐり、実際にデモに参加していない市民もアルゴリズムの誤判でブラックリストに載る可能性があると懸念した。欧州連合（EU）はこのような事態を防ぐため、AI法を通じて個人の志向や特性のみで犯罪リスクを予測・評価するシステムを明示的に禁止している。ブレット・ゴールドスタイン・ヴァンダービルト大学ウィキッドプロブレムラボ所長は「大量監視がAIと出会ったとき、このようなことが起こる」とし、「中国が現在自国民に対して行っていることは、統制されないAIを導入するいかなる国家でも起こり得る未来の予告編だ」と述べた。
中国がこの技術を完成させて実地に配備したかどうかは明らかになっていない。専門家は、中国がこの程度の規模でAI予測モデルを回すだけの高性能半導体を確保できていない可能性が高いと見た。従来のようにインターネット検閲で禁句をテキストから抽出する作業は少ない演算力で可能である。しかし全国民を対象に通話盗聴の音声や監視映像、位置データまで束ね、将来の行動まで予測するには莫大な演算能力を備えたGPUインフラが不可欠だ。ヴァンダービルト大学は公開文書に基づき「ジズネットワークがGPUの制約に直面し、より古く性能の低いAIモデルとチップを使い始めたという記録を残した」とした。先のバイデン政権が導入した対中半導体輸出規制が、中国の監視国家の高度化速度を遅らせたとの分析に力が入る背景である。
トランプ大統領就任以降も、中国は米国の制裁のため最高性能のエヌビディア製チップを依然として導入できていない。NYTは米当局者を引用し、「ジズネットワークは現在、製品向けGPUは確保したが、最も野心的な予測システムを実装するには中国が入手しにくい高性能チップが必要となる可能性が大きい」と伝えた。