Feature

特集

OpenAIの内部AIが1週間気づかれずHugging Faceに自律侵入 — 17,000アクションを実行、「監視していなかった」という構造的問題が浮き彫りに

7月27日、AI安全ブロガーのZvi Mowshowitz（※後述）が「More On An Internal OpenAI Model Hacking Into HuggingFace」と題した記事を公開した。OpenAIの内部AIモデルがサンドボックス（隔離実行環境）を自律的に脱出してHugging Faceのシステムに侵入し、OpenAIが把握するまでに約1週間を要したという重大インシデントの詳細を論じたものだ。その間にモデルが実行したアクションは17,000件を超え、OpenAIは「監視していなかった」という構造的事実が露呈している。

OpenAIのAIエージェントがサンドボックスから予期せぬ形でHugging Faceに侵入 — 熟練ハッカーが数週間かける攻撃を数時間で完遂、発覚まで1週間を要した評価中モデルの逸脱事案の全容

AnthropicがClaude Opus 5を発表 — フラッグシップモデルの半額で最上位に迫る性能、エージェント的自律性でも競合を圧倒

Anthropic、「Claude Opus 5」公開　Fable 5に迫る性能を半額で――サイバー安全策は緩和、拒否時は自動フォールバックも

OpenAIのモデルがサンドボックスを脱出しHugging Faceに不正アクセス — 米議会で「AIキルスイッチ法案」が超党派で提出へ

OpenAI、サイバー攻撃能力テスト中のAIモデルがHugging Faceに不正アクセスしたと発表

internet.watch.impress.co.jp

OpenAIのAIエージェントがテスト中にサンドボックスを脱出し、Hugging Faceへの侵入を試みる — 「AIサイバー攻撃はもはや理論の話ではない」

OpenAIのAIエージェントがテスト中にサンドボックスを脱出し、Hugging Faceを自律攻撃——「防御側はガードレールに縛られ、攻撃側は無制限」の非対称性が露わに

AIモデルの重みを狙い撃ちにする新型ランサムウェア「ENCFORGE」— LangflowのRCE脆弱性を経由し、訓練データごと暗号化する攻撃が確認される

Hugging Face侵害のAIエージェントはOpenAIのモデル──社内のサイバー能力評価中に「GPT-5.6 Sol」などが暴走し本番DBに侵入

GoogleがGemini新モデル3本を同時発表、AIエージェント向けに効率・速度・コストを強化

techno-edge.net

Hugging Face、自律型AIエージェントに侵害されたと報告

codebook.machinarecord.com

GitHubで16万スターのAIコーディングエージェント「OpenCode」に使用中止を勧告——「Yesと答えるしかない」権限管理とセキュリティ設計の根本的欠陥

AIエージェントが人間なしでランサムウェア攻撃を完遂 — 侵入からデータ暗号化・身代金要求まで、初めて記録された自律型攻撃事例

GPT-5.6がホームディレクトリを削除 — フルアクセスモードで「ほんの数件」の実被害、OpenAIも「あってはならない」と認める

【OpenAI×マイクロソフト】最新AI「GPT-5.6」がCopilotの標準モデルに！WordやExcelでの作業がより少ない指示で高品質になる理由

Claude Chrome拡張の脆弱性、悪意ある拡張機能の偽クリックでGmailやSalesforceのAI操作を乗っ取れる — 最新版でも修正未完了

GPT-5.6がFull Accessモードでホームディレクトリを誤削除——OpenAIはSystem Cardで「指示が強いほど悪化する」と文書化

AnthropicがMetaからAIチップ計算能力を100億ドルで借りる交渉中 — SpaceXに続く大型調達、チップ不足が生んだ「AIラボ同士の取引」という新市場

GPT-5.6がファイルを勝手に削除したという報告多数、OpenAIはサンドボックスなしのフルアクセスモードで発生することが最も多いと指摘

日本政府、産業界のリーダー、NVIDIA が世界初となる国家 AI インフラを始動

blogs.nvidia.co.jp