6月27日、The Newsが「Why Meta plans to replace 90% of content moderation with AI」と題した記事を公開した。Metaが今年末までにコンテンツモデレーションの90%超をAIで処理する計画を進めているという内容で、コスト削減の恩恵と引き換えに、誤判定や透明性の欠如というリスクが広告主やブランド担当者にとって無視できない問題として浮上している。
Financial Timesの報道が伝える計画の概要
The Newsが引用するFinancial Timesの報道（※The Newsは同報道を受けた二次的な解説・紹介記事）によると、Metaは今年末までに特定のコンテンツ形式において、レビュー業務の90%超をAIで処理することを目指している。対象は広告およびコンテンツ審査の大部分で、Meta自身が開発するLLM（大規模言語モデル：テキストや画像などを理解・判定する大規模AIシステム）がその判断を担う形になる。
MetaはAIインフラへの大規模投資を進めており、同社のAI開発戦略についてはMeta AI公式ページでも一部が公開されている。今回のモデレーション移行はその戦略の一環として位置づけられる。
何が変わり、何がリスクになるか
コスト削減効果は明確だ。人間のモデレーターへの依存を大幅に減らすことで、コンプライアンスコストの圧縮が見込める。
一方、リスクも同時に指摘されている。
- AIは人間よりも速く、大量に、そして誤った判断を下す可能性がある。 広告の自動購入システム（プログラマティック広告）がすでに人間の監視を排除しているなかで、モデレーション判断もAI化されれば、ブランドセーフティ（自社広告が不適切なコンテンツの隣に表示されるリスクを管理する概念）上の問題がさらに増幅される。
- AIシステムは判断プロセスが不透明なため、ユーザーや広告主にとってコンテンツ判断の根拠が見えにくくなる。
- 自動化システムの精度不足は「誤った永久BAN」のリスクを高め、ブランドのアカウントが突然凍結されるような事態が起こりうる。これはブランドの顧客関係やメディアパフォーマンスに直接的なダメージを与える。
広告主・マーケターへの影響
Metaはソーシャルメディア広告市場で圧倒的な存在感を持っており、多くのブランドがそのプラットフォームをエンゲージメント戦略の軸に置いている。
記事では、自動化の普及が「精度・透明性・異議申し立て手続き」の改善を伴わなければ、広告主の不安が高まると指摘されている。AI化によるコスト削減はMetaにとっての利益だが、誤審査や不透明な判断が増えれば、プラットフォームへの信頼が損なわれるリスクがある。なお、異議申し立て手続きとは、誤ったBANやコンテンツ削除に対してブランドやユーザーが不服を申し立てる仕組みを指す。AIが判断主体になることで、この手続きの実効性がどこまで担保されるかも問われている。
背景：なぜ今この議論が起きているか
Metaは今年1月、Facebook、Instagram、Threadsのコンテンツモデレーション方針を大幅に緩和すると発表し、サードパーティによるファクトチェックプログラムを廃止する方針を示した。AI移行はその延長線上にある施策であり、「人間の判断をAIに置き換える」方向性がより鮮明になっている。
コンテンツモデレーションの自動化自体は業界全体で進んでいるトレンドだが、Metaのように90%超という規模でAIに依存する計画は異例とも言える。精度・透明性・ユーザー保護の三点をどう担保するかは、引き続き注視すべき論点だ。
詳細はWhy Meta plans to replace 90% of content moderation with AIを参照していただきたい。
