11日に訪れたシンガポールのTikTok本社内「透明性および責任センター（TAC）」。TikTok関係者がモニターにつないだカメラの前で手にタバコを持つと、画面に表示された「喫煙指数」が50%台に上がった。続いてタバコを口にくわえて吸うしぐさをすると、数値は一気に99%まで跳ね上がり警告灯が点灯した。
最近、世界各国でソーシャルメディア（SNS）の負の影響を抑えるための規制が広がっている。とりわけ有害コンテンツに脆弱な青少年の保護が主要な議題に浮上した。オーストラリアが2025年12月に世界で初めて16歳未満のSNS利用を禁止したのに続き、インドネシアとマレーシアも16歳未満のアカウント作成を制限した。フランスは先月、15歳未満のSNS利用を制限する法案を可決し、英国・スペイン・ギリシャやカナダ、アラブ首長国連邦（UAE）なども年齢確認義務を強化している。
各国の規制手法や厳しさに差はあるが、背景には共通の問題意識がある。SNSで有害コンテンツに無差別にさらされたり、似た情報だけが繰り返し推薦されて確証バイアスが強まる場合、利用者に否定的な影響を及ぼしかねないという懸念だ。これによりグローバルプラットフォーム企業にも、有害コンテンツを迅速かつ正確にふるいにかけると同時に、確証バイアスから離れて安全なコンテンツ環境を整えることが主要課題として浮上している。
TikTokのTACは安全なコンテンツ環境を整えるための取り組みを示す空間である。ここでは「信頼と安全（T&S・Trust & Safety）チーム」がTikTokのコンテンツが利用者に表示される前に有害性を審査する過程を確認できる。韓国語コンテンツは主に韓国語を母語とする審査者が検討する。TikTokによると2026年1〜3月期だけで約1億8,500万件のコンテンツが削除された。
◇「AIがふるい、人間が判断」…2026年1〜3月期だけで1億8,500万件を削除
TikTokのコンテンツ審査は大きく3段階で行う。利用者が動画を投稿すると、有害性がないと判断された約99.5%のコンテンツは即時掲載され、残り約0.5%はコミュニティガイドライン違反の可能性があるコンテンツとして分類され追加審査を受ける。一次審査はAIベースの機械学習が担い、大半の有害コンテンツがこの段階で除外される。TikTokによると2026年1〜3月期に削除されたコンテンツのうち約96%に当たる1億7,600万件が機械学習により自動削除された。
TACではこの過程を直接確認できた。機械学習は映像内の特定物体を単純に識別するにとどまらず、人の行動や周辺状況を総合して文脈を把握した。モニター前でタバコを口にくわえて吸う動作をすると喫煙関連の数値が90%台に跳ね上がった一方、棒付きキャンディーをくわえて同じ動作をした場合は特段の変化がなかった。分析対象はテキストや音声まで含む。イスラム国（IS）を象徴する文言が現れると「過激主義の旗」関連の数値が大きく上昇した。
TikTok関係者は「機械学習は画像とテキスト、音声、行動など多様なシグナルを総合し、コンテンツの違反可能性を判断する」と述べ、「人の顔を識別するのではなく、体の関節や姿勢など行動パターンを分析する方式であり、この過程で個人を特定する情報は収集しない」と説明した。
ただしAIだけでは判断が難しいコンテンツはT&S所属の人間審査官による二次審査を経る。露出の多い服装だが性的行為ではないデモのパフォーマンスや、直接的な暴力シーンはないが嫌がらせの意図が含まれるヘイト的発言といった、いわゆる「グレーゾーン」コンテンツが対象だ。審査官はフレームごとのスクリーンショット、コメント、ハッシュタグ、投稿文脈などを総合的に確認し、ガイドライン違反の有無を最終判断する。
TACでは人間審査官の役割を担って模擬審査の過程も体験できた。画面には床を赤い液体が覆う映像が登場した。一見すると事故で人が血を流したような場面だった。だが映像を詳しく見ると、血のように見えた液体は事故の過程で流出したエンジンオイルだった。「違反なし」を選ぶと正解との結果が表示された。色合いや場面だけではAIが実際の血液とエンジンオイルを見分けにくい事例だった。
◇「嗜好60%・新規コンテンツ40%」…TikTokが公開した推薦アルゴリズム
コンテンツの安全審査と同じくらいTikTokが重視するもう一つの課題は、利用者の確証バイアスを強める「フィルターバブル」だ。TACにはコンテンツ審査だけでなく、推薦アルゴリズムの作動方式と、利用者が特定の関心事に閉じ込められるのを防ぐ装置を説明する空間も用意されている。
TikTokの推薦システムは、利用者に動画を8本ずつ束ねて見せ、その反応を学習する方式で作動する。視聴時間や「いいね」・共有・コメントなどの利用者反応を分析し、次の8本の推薦動画を構成する過程を繰り返す。約64本の動画を視聴すると、利用者の嗜好に合う推薦の方向性がおおむね形成されるという説明だ。初めて登録して嗜好情報が乏しい利用者には、地域やスマートフォンの言語設定、現在人気があり安全なコンテンツなどを基に最初の推薦束を構成する。その後、利用者の反応が蓄積されるほど関心事を具体化し、推薦コンテンツを調整する。
ただし関心事に基づく推薦が利用者を特定の主題に閉じ込めるフィルターバブルにつながらないよう、意図的に異なるコンテンツも混ぜる。同一のタイプや同じクリエイターの動画を過度に連続表示せず、利用者が普段消費しないコンテンツも継続的に推薦する。正確な比率を定めているわけではないが、通常は利用者が好むコンテンツを約60%、新しいコンテンツを約40%混ぜて見せる方式だとTikTok側は説明した。
これは利用者の興味を広げるにとどまらず、特定の主題や観点に過度に没入するのを防ぐ目的もある。うつ病や精神疾患、ダイエットなど特定の主題に関心を示しても、類似コンテンツだけを反復的に表示せず、新しいコンテンツを併せて推薦する。政治コンテンツも同様で、利用者が一方の傾向のコンテンツを主に消費していても、反対の観点のコンテンツを意図的に推薦フィードに混ぜて見せるというのがTikTok側の説明だ。
併せて、利用者の推薦フィードの統制権とクリエイターの露出機会も開いている。利用者は「コンテンツ嗜好」の設定で特定のキーワードを除外したり、関心主題の露出度合いを自ら調整できる。「関心なし」や通報など利用者が送るシグナルも今後の推薦に反映される。クリエイターのフォロワー数も、推薦を左右する絶対的基準ではない。
TikTokは最近問題化する「AIスロップ（低品質AI生成コンテンツ）」への対応も強化している。人の実質的な関与なしに低品質のAIコンテンツを大量生産するアカウントに対する制裁を強める一方、実写のように見えるAI生成・編集コンテンツにはラベルを表示する。TikTok自体の編集ツールで制作したコンテンツには自動ラベリングを適用し、外部プラットフォームで制作されたAIコンテンツもコンテンツ認証技術で識別する。
TikTok関係者は「人の実質的な関与なしに低品質AIコンテンツを大量生産するアカウントについても対応を強化している」と述べ、「ただしAIスロップは『いいね』やコメントなど利用者の反応を得にくく、推薦アルゴリズムで自然に淘汰される場合が多い」と説明した。