10月1日、ibtimes.sgが「AI Safety Debate: Jensen Huang Challenged Anthropic's Dario Amodei」と題した記事を公開した。NVIDIAのジェンスン・フアンCEOがホワイトハウスの非公開会議でAnthropicのダリオ・アモデイCEOのAIリスク警告に直接異議を唱えた一幕を詳報している。
表向きの団結、舞台裏の対立
9月29日、ドナルド・トランプ大統領とマイク・ジョンソン下院議長主催の昼食会に、NVIDIA、Anthropic、Meta、OpenAIなど主要テック企業のCEOが集まった。会議では、フロンティアAI（現時点で最も高性能とされる大規模AIモデルの総称）に関する安全慣行をカバーする自主的な合意文書に各社が署名し、業界の協調姿勢が公式には演出された。
しかし非公開の場では、別の展開があった。ウォール・ストリート・ジャーナルの報道によれば、フアンはアモデイに対し、「なぜ先進的なAIモデルのリスクについてあれほど強く警告するのか」と問い質した。
アモデイはこれに対し、「企業は自社モデルの能力について公衆に対して率直であるべきであり、関連するリスクを軽視すべきではない」と反論した。Metaのマーク・ザッカーバーグCEOも会議に同席しており、「安全上の懸念は各社が既存の原則に従って自主的に対処できる」との立場を示したと報じられている。
フアンとアモデイ、何が違うのか
両者の溝は、AIの安全性そのものの是非ではなく、リスクの「語り方」と「管理主体」をめぐる対立だ。
フアンは9月20日にCBSニュースに対し、「できる限り速く進むべきだが、安全を犠牲にするほど速くあってはならない」と述べている。一方で、「AIによって2030年までに世界が終わる可能性は0%だ」とも発言しており、そうした警告を「無責任かつ不必要」と切り捨てた。彼の立場は、既存の法律と業界主導のセーフガードで十分対処できるというものだ。
アモデイの主張はこれと対照的だ。Anthropicの最新のClaude安全性文書では、「AIの進歩は、安全慣行がモデルの能力に先行して維持できるペースで進むべきだ」と明記されている。アモデイが警告するリスクには、先進システムの制御喪失、AIを悪用したサイバー攻撃、生物的脅威、大規模な経済的混乱が含まれる。
なお、Anthropicは「責任あるスケーリングポリシー（RSP）」を独自に策定しており、モデルの能力評価と安全対策を段階的に連動させる枠組みを公開している。OpenAIも同様に「準備フレームワーク（Preparedness Framework）」を設けており、各社がそれぞれ独自の安全基準を持つ状況が、今回の対立の背景にある。
自主規制の枠組みにも亀裂
この会議ではもう一つの対立も浮上した。業界の自主規制を組織化するための業界団体の設立案が、フアン、ザッカーバーグ、イーロン・マスクの反対によって撤回されたと報じられている。反対の理由は、すでにAI市場をリードする企業間に権限が集中することへの懸念だった。
ホワイトハウスが発表した「フロンティア責任に関する共同コミットメント」は、以下の4層の管理と監査を各社に求めている：
- 社内管理（内部統制）
- 独立した外部評価
- 取締役会レベルのレビュー
- 政府機関への情報共有
ただし文書には「本コミットメントは自主的なものであり、法的強制力のある義務を生じさせない」と明記されている。
合意できた部分と、できなかった部分
各社が合意した点は明確だ。フロンティアモデルの監視、外部評価の活用、社内ガバナンスの整備という共通の基準を設けること。
合意できなかった点も明確だ。どの程度のリスクが開発速度を落とす根拠になるか、企業は何をどこまで公開すべきか、自主的なコミットメントで十分かどうか——これらについては、各社の見解は一致していない。
NVIDIAはGPUというAI開発のインフラを提供する立場として、開発加速に直接的な商業的利益を持つ。一方のAnthropicは、安全重視の姿勢が規制強化を正当化するという批判も受けている。記事はそうした利害関係を指摘しつつも、それだけでは各CEOの真意を断定できないと慎重な姿勢を取っている。
表向きには「安全で責任ある開発」で一致した業界が、同じ会議室の非公開の場で根本的な思想の違いを露わにした——それがこの会議の実態だった。
詳細はAI Safety Debate: Jensen Huang Challenged Anthropic's Dario Amodeiを参照していただきたい。
