6月15日、Nathan Lambertが「Welcome to the AGI era of AI governance」と題した記事を公開した。米政府がAnthropicの最新モデルへのアクセス停止を要求したとされる出来事を起点に、AIガバナンスが新たな局面に突入したとするガバナンス論考であり、業界・政策双方に対して鋭い問題提起を行っている。
事件の概要：何が起きたとされているか
※本記事はNathan Lambertによる考察・論評記事の紹介であり、以下に記述される出来事の詳細はすべて元記事の主張に基づく。独立した事実確認は困難であることをご留意いただきたい。
元記事によれば、金曜日の市場クローズ直後、米政府はAnthropicに対し、最新モデル（元記事では「Claude 5 Mythos/Fable」と記載）へのアクセスを外国籍・海外ユーザー全員に対して即時停止するよう要求したとされる。この要請のきっかけとなったのは、Anthropicの主要な財務・技術パートナーとされるAmazonが、当該モデルのジェイルブレイク（安全制御の迂回）に関するリスク情報をホワイトハウスに直接報告したことだという。
Lambertはこの事件を「AGI時代のAIガバナンスの号砲」として位置づける。AIモデルが単に質問に答えるだけの存在（ChatGPT時代）から、人間の労働を実質的に補完するエージェント的推論（モデルが自律的にタスクを計画・実行する能力）の時代に移行しつつある中、既存の権力構造がその変化に追いつこうと性急な行動に出た——それがこの事件の本質だという分析だ。
事件の核心：6つの論点
Lambertはこの複雑な状況を、以下の6点に整理して論じている。
1. モデルウェイトの輸出禁止は米国に長期的なダメージを与える
オープン・クローズドを問わず、モデルの輸出を禁じる政策は米国の競争力を損なう。国内に外国籍エンジニアが参加できなければ、フロンティアAIの産業基盤そのものが崩れる。
2. ジェイルブレイクの懸念は一定程度正当だが、対応は過剰だった
当該モデルに対する実際のジェイルブレイクリスクは狭いものだった。いかなるモデルも完全にジェイルブレイク耐性を持つことはできず、今後数年で同等の能力を持つモデルが世界中に普及する現実を前に、このような対応はインフラ整備の方向性として誤っているとLambertは指摘する。なお「ジェイルブレイク」とはモデルの安全フィルターや制御機構を迂回する行為を指す。
3. Anthropic自身の「恐怖の煽り」がこの事態を招いた
AIを核兵器になぞらえるような言説を繰り返してきたAnthropicの広報姿勢が、政府の過剰反応を6〜12ヶ月分早めた可能性があるという。自分で蒔いた種を自分で刈り取っているという見方だ。
4. オープンソース陣営の「勝利宣言」は危険な楽観論だ
米国を代表するAI企業が政治的攻撃に繰り返しさらされることを喜ぶのは、経済的に極めて不安定な状況を招くリスクがある。AI企業の不安定化はAIバブル崩壊の引き金にもなりかねない。
5. ホワイトハウスの判断は政治的バイアスを含んでいる
Pete Hegesthの発言に見られるように、Anthropicに対する政治的な反感が今回の判断に影響しているとLambertは主張する。外国籍ユーザーを排除しながらフロンティアAIの国内産業を維持しようという目標は、根本的に矛盾しているという。
6. AmazonがなぜWhite Houseに直接情報を持ち込んだのかは不明だ
元記事はAnthropicとAmazonの間で何があったのか、リリース前にどのような議論があったのかについて「いまだ不透明な部分が多い」と述べており、両社の関係における奇妙な力学を示唆するにとどめている。この点については元記事でも確認された事実として断定されているわけではなく、引き続き情報が求められる論点だ。
「ChatGPT時代」から「AGI時代」へ
Lambertが強調するのは、現政権がChatGPT時代——モデルが質問に答えるだけの時代——にホワイトハウス入りしたという事実だ。当初のAIアクションプランはその時代の産物であり、当時の政府の判断はおおむね合理的だったとLambertは評価する。
しかし今、政府はAGI（汎用人工知能）時代の入り口に立ったことを自覚している。AGIとは特定タスクに特化した従来のAIとは異なり、人間と同等以上に幅広い知的作業をこなせるAIを指す概念だ。準備ができていない状態で、失った時間を取り戻そうと焦っている——それが今回の強引な対応の背景にある、とLambertは論じる。
オープンソース陣営への警告
今回の事件をAnthropicへの打撃として歓迎しているオープンソース陣営に対し、Lambertは明確に警告を発している。
「オープンソースのAI支持者たちがこの一連の出来事を大々的に祝っているが、急速対応型のAI政策の矛先が自分たちに向いたとき、まったく準備ができていないだろう。同様に攻撃的な行動がオープンモデルに向かうのは、3ヶ月後か2年後かはわからないが、ほぼ確実に来る。」
また、欧州・中東・中国がフロンティアAIへのアクセスを失いかねないと気づき始めており、これらの地域が独自のAI基盤構築に舵を切る動きも加速するとみている。
今後の展望
Lambertはこの事件を「AIポリシー史上最大の出来事の一つ」としながらも、あくまでも「これからの新常態の始まり」に過ぎないと論じる。既存の権力構造が急速に台頭するテクノロジーに支配権を主張しようとする動きは、今後も混乱を伴いながら続く。
モデルリリースが技術的な根拠ではなく「雰囲気」で判断され、政治的な技術評価が審査の壁になる——そんな近未来をLambertは見据えている。本記事はあくまでも一人の研究者・論者による考察だが、AIガバナンスの議論が新局面に入りつつあることを示す重要な視点として読む価値がある。
詳細はWelcome to the AGI era of AI governanceを参照していただきたい。
