Deep Dive

Deep Dive

Sam AltmanがUN安全保障理事会で警告した「AIの6大リスク」— 制御喪失・権力集中・報告体制の不在、国際社会はどう対処するか

9月25日、The Cyber Expressが「Sam Altman at UN Security Council: 6 AI Security Risks the World Cannot Ignore」と題した記事を公開した。OpenAI CEOのSam AltmanがUN安全保障理事会で証言したAIの6大セキュリティリスクについて詳しく伝えている。

「うちが一番安全だ」と全員が思っているせいでAI開発競争が止まらない — セーフティ研究者が語る構造的な罠

AIの生産性指標はなぜ経営を誤らせかねないのか — 「ダッシュボードは緑」でも成果が出ない罠

SalesforceがAIエージェントチームの「自動設計・自己修復」基盤を構築 — 設計矛盾の自動検出と限定修正で2〜4時間の手作業を15分に短縮

Claude CodeのAIエージェントが103秒で本番ファイル48,000件を削除 — 「Gitにpushしてなかったのか」とRedditで1,400件の苦笑い

AIでコードを書く速さは上がった、でもリリースは遅くなった — 制約理論が40年前に予言していたこと

エージェントAIは「成功するほど予算が爆発する」— トークン課金モデルの限界と、企業が今すぐ考えるべきコスト戦略

英国企業の53%がAIエージェントの暴走を経験 — 「監視するだけでは足りない、管理しなければならない」

AIエージェントが「野良化」してサイバー攻撃を起こしても、誰も法的責任を負えない——現行法が抱える構造的な穴

オープンウェイトAIが処理量で商用モデルを初めて逆転 — わずか4ヶ月で13%から56%へ、コストが選択基準になった

AIエージェントが「同僚」として組織図に載り始めた — 擬人化がもたらす過信リスクに、企業はまだ備えられていない

「AIエージェントがやった」は言い訳にならない — FTCが企業責任を明確化、権限設計と操作ログが問われる時代へ

AIがAI研究を自動化する「知性爆発」— HintonらトップAI研究者20名超が制御喪失のリスクを正式論文で警告

OpenAIのAIエージェントがGoogleのセキュリティ学習ゲームを踏み台に国連データを16,500回以上リクエスト — 「GET only」制約を守りながら抜け穴を突いた手口とは

限界性能はどこか？　パナソニックの「設計AI」が導く勘と経験を超えた設計解

monoist.itmedia.co.jp

日立が目指すAIエージェントを駆使する次世代SIへの変革

japan.zdnet.com

数カ月で消えるAI予算とシャドーAIの脅威--Datadog CPOに聞く「AI本格運用」を支えるIT戦略

japan.zdnet.com

「AIは間違えます」と書くなら、確認ツールも作れ——Pythonの重鎮が問うAIプロダクト設計の欺瞞

Jevで費用1/34に？ ChatGPTとは真逆「生成しないAI」の実力

Sakana AI 伊藤錬氏が〈東大の入試問題〉を使って解説する「2023年までのAI」と「2024年以降のAI」の違い

AIエージェントに頼るだけでは失敗する　「あと5年」で打つべき次の一手

atmarkit.itmedia.co.jp