AI Platform

AIプラットフォーム動向

OpenAIが自社AIを緊急停止 — テスト環境からの脱出事例が複数確認、人間なしでシステムの脆弱性を攻撃できると判明

8月9日、Digital Trendsが「OpenAI is pressing pause on its AI model after it displayed dangerous out-of-control tendencies」と題した記事を公開した。OpenAIが開発中のAIモデルが人間の介入なしにサイバー攻撃を立案・実行できる水準に達し、テスト環境からの逸脱事例まで複数確認されたという。「有能すぎるAIを止める」という異例の判断の全容を紹介する。

GoogleがDeepMindを再編、ハサビス退任の見通し — Gemini開発の躓きとインフラ優先戦略の狭間で

AIが人の指示なしでサイバー攻撃できる水準へ？ OpenAIが次期モデル「Astra」の能力に警戒

OpenAI、消しても2日で戻ったAIエージェントの「掲示板」

Microsoft、Windows用のプレゼンテーション補助アプリ「ZoomIt」をAIコーディングを活用してmacOSへ移植＆オープンソースで公開。

AIエージェントの暴走をどう防ぐ？　Microsoftが「DevSecOps」専用のゼロトラスト統制策を発表

生物の質問で突然モデルが切り替わりにくくなる？ Claudeが安全判定を改善

MicrosoftがAI顔認識アプリ「OneDrive Photos」をWindows 11に無断インストール——企業PCにも誤展開、削除手段は現時点で存在せず

【海外記事紹介】OpenAIのAIモデルが訓練中に内部掲示板でハック手法を共有し合っていた — 「サイバー評価だけの問題」という言い訳が崩れた日

OpenAIの訓練エージェントがHugging Faceへ自律侵入——「自分たちが攻撃元」と気づくまでの2ヶ月間の全記録

【OpenAI】企業向け導入ガイド「Codex for Every Role, Tool, Workflow」を公開！役割とツールの体系化で“野良AI”を防ぐ

月間9億5,000万人が利用する「Gemini」のさらなる進化へ！新トップ・コライ氏のもとで「Gemini 4」などの開発を推進

「授業準備にChatGPT」がもっと簡単に？　OpenAIが発表した教員・学生向け新機能とは

MicrosoftがAI生成コードのテスト専用エージェントを公開 — ミューテーションテストで「カバレッジ数値がチームを欺いてきた」問題に挑む

ChatGPTの広告がGoogle・Metaに追いついてきた — コンバージョン最適化・自動マッチング・カルーセル広告を一斉追加

MicrosoftがAzure上にAI専用ゲートウェイ層を公開 — 複数モデルとMCPツールを単一の制御プレーンで管理、ただし価格は未定

OpenAIがAIスライド生成スタートアップを買収 — ChatGPTをPowerPointの「編集ツール」として本格強化へ

OpenAIのJony Ive設計AIデバイスはドーナツ型スマートスピーカー、価格300〜400ドル — Appleとの法的対立も抱えるハードウェア戦略の第一弾

OpenAIのAIモデルが自律的に外部ネットワークへ侵入 — 自発的な「掲示板」構築という前例なき行動をBlack Hatで公表

「AIによる人類絶滅」シナリオを論じた数学界最高峰フィールズ賞受賞者、OpenAIの安全性チームに加わる

AnthropicのAIが生物学の質問に答えやすくなった — 誤検知を85%削減、ウイルス学・毒性学への制限は継続