6月26日、Bruce Schneierが「AI and Liability」と題した記事を公開した。この記事では、ドイツ裁判所がGoogleのAI検索要約に対して法的責任を認定したことを起点に、AI生成コンテンツの責任帰属をめぐる法的枠組みの問題について詳しく論じている。
ドイツ裁判所、GoogleのAI概要に「責任あり」と判断
ドイツの裁判所がGoogleのAI検索要約（AI Overviews）に対して同社の責任を認める判決を下した。Googleは「ユーザー自身が確認できる」「AI生成情報を盲目的に信じるべきでないことはユーザーも知っている」と主張して争ったが、裁判所はこれを退けた。判決は、AIの要約はGoogleという企業を反映したものであり、「とりわけGoogleのビジネス活動の表れである」と断じた。（※元記事では判決の具体的な日付や事件名は明示されていない）
この判決の核心は、キャリアと出版者という古典的な二分法にある。電話会社のようなキャリアは、ユーザーが何を話すかに関知せず、伝達するだけで責任を負わない。一方、新聞社のような出版者は、掲載する言葉を自ら選択し、名誉毀損などがあれば責任を問われる。
インターネット企業はこの区別を都合よく使い分けてきた。米国では通信品位法（CDA）第230条（1996年）が「他者が提供した情報についてプラットフォームを出版者として扱ってはならない」と定め、この曖昧な立場を法的に保護してきた。しかし、GoogleのAI Overviewsはその曖昧さを突き破る。従来の検索がサードパーティの記事へのアクセスを仲介するものだったのに対し、AI Overviewsは他者のテキストをAIが書き直して新たな要約を生成する。これは新聞の記事や独自エッセイと同質の「編集行為」だというのがSchneierの見立てだ。
Air Canadaの先例と「代理人」としてのAI
Schneierはこの問題を裏付ける先例として、2024年2月のAir Canadaの事例を挙げる。同社のAIチャットボットが割引を約束したが、後から会社側がこれを撤回。裁判でAir Canadaは「チャットボットは独立した法的主体であり、自身の行動に責任を負う」と主張した。しかし裁判所は乗客側に軍配を上げ、企業はAIチャットボットの発言に対してウェブサイト上の記載と同等の責任を負うと判示した。
この論理をSchneierは次のように整理する。
企業が要約記事を書く人間のライターを雇えば、その不正確な内容に責任を負う。企業の代理人が契約に署名すれば、その企業は契約に拘束される。医師が危険な誤った医療アドバイスをすれば医療過誤に問われる。
AIがこれらの役割を担う場合に限って責任を免除するのは、企業への一方的な利益供与であり、「人間のライターや弁護士、医師を雇う代わりに、ミスをしても責任を問われないAIを使えばいい」という歪んだインセンティブを生む、とSchneierは指摘する。
10%の誤りが毎秒1万6000件のエラーを意味する
今年初めのテストによれば、Google AI Overviewsは約10%の頻度で誤りを含む。Googleの検索件数は年間5兆件以上とされており、この2つの数字から毎秒約1万6,000件の誤った要約が生成されていることになる（※毎秒換算は編集部の計算による）。
その影響は既に具体的な被害として表れている。2026年5月、カナダのフィドル奏者Ashley MacIsaacが、GoogleのAI要約が彼を性犯罪者と誤って紹介したとしてオンタリオ州で訴訟を起こした。この訴訟は現在進行中だ。
AI弁護士・AI医師・AIインフルエンサーは商業的に成立するか
Schneierは、責任問題が業界全体に与える影響を率直に述べる。記事の中でSchneierは、現在業界で注目されているAI弁護士、AI医師、AIインフルエンサーといったユースケースを名指しし、企業がその言動に責任を負うとなれば、これらは商業的に成立しなくなる可能性があると指摘する。責任から逃れられるという前提のもとで成り立っているビジネスモデルが、法的な枠組みの変化によって根底から問い直されるという文脈だ。
VisaとOpenAIが発表した、ユーザーの代わりに購入を行うAIエージェントの提携構想も同様の問題をはらむ。「Visaのエージェントが意図しない購入をした場合、Visaは責任を取るのか。取らないなら、誰がそのシステムを信頼するのか」という問いに、Schneierは明確に答える。責任の適切な配分こそが、AIエージェント経済を機能させる鍵だ、と。
記事の結論は簡潔だ。「AIシステムが根本的に信頼できないなら、法がそれに対応する必要はない。自らのエージェント——人間であれAIであれ——の発言に責任を持てない企業は、ユーザーの時間や金を受け取る資格がない」。
詳細はAI and Liabilityを参照していただきたい。
