主要ニュース

9月7日、Digit.inが「"No lab has solved alignment": OpenAI Chief Scientist Jakub Pachocki's warning about AI progress」と題した記事を公開した。OpenAIのチーフサイエンティストであるJakub Pachockiが「どの研究機関もアライメント問題を解決していない」と公開エッセイで警告した件について詳しく紹介している。「誰も準備できていない」とOpenAIが自ら認めたOpenAIのチーフサイエンティストであるJakub Pachockiが「An Alien Mind」と題したエッセイを公開した。そこに書かれた一文が業界に波紋を広げている。「どの研究機関も、このままの速度でスケーリングを続けるのに十分な程度のアライメントとモニタリングを解決していない。」通常の企業広報とは異なり、このエッセイは率直なトーンで書かれている。最先端モデルを持つ企業のチーフサイエンティストが、自社を含めた業界全体の安全対策の遅れを公の場で認めた形だ。なお、AIアライメントとは、AIシステムの目標・行動・価値観...