10月9日、The Decoderが「Some mathematicians call for OpenAI boycott after AI-generated proofs flood their field」と題した記事を公開した。この記事では、OpenAIがAI生成の数学的証明700本以上を一括公開したことに対し、数学者コミュニティがボイコットを含む強い反発を示している状況について詳しく紹介されている。以下に、その内容を紹介する。
OpenAIが700本超の数学的証明を一括公開
10月6日、OpenAIはAIが生成した数学的証明文書を700本以上まとめて公開した。含まれる内容は複素数論、数論、アルゴリズム研究にまたがる未解決問題の解法であり、Clay数学研究所のミレニアム懸賞問題における複数問題への部分的な進展も含まれるとされる。
この公開に対し、世界トップの数学者団体「Alliance for Human Mathematics（AHM）」は声明を発表し、OpenAI製品のボイコットと、訓練データ収集からプレプリントサーバーarXivを守るための対策を求めた。
声明では、この一括公開を「学術の実証ではなく、力の誇示だ」と断じている。AHMはOpenAIが著作権侵害訴訟を複数抱えている事実にも言及し、数学者の研究成果を（合法か否かにかかわらず）訓練データとして利用した可能性を示唆した。
フィールズ賞受賞者でAHM議長を務めるTerence Taoは自身のブログでこの声明をゲスト投稿として共有し、計算量理論の専門家Scott Aaronsonは自身のブログでこの状況を「Mathocalypse（数学の黙示録）」と表現した。
研究者一人ひとりへの影響——キャリア全体が3時間で
Aaronsonが最も具体的に示したのが、妻でコンピュータ科学者のDana Moshkovitz氏の事例だ。彼女はキャリア全体を「Unique Games予想」という理論計算機科学の未解決問題に費やしてきた。今回の公開文書には、その証明の主張が含まれていた。
公開当日の夜、彼女はAaronsonに次のようなテキストを送った。
「サイケデリクスをやってる人が書いたみたいな感じ。ほぼ全部が不明瞭で、先行研究を引用しているのにそれが適用できる理由の説明がない。AIの助けなしには読むことすら不可能な論文だ。」
証明は彼女が「エイリアンのキチガイ構造」と表現する全く新しい構成に依存しており、現時点では正しいかどうかの検証すら困難な状態だという。
全体の数字として、Aaronsonは約8,000問をテストし、成功率は約5%、1問あたりの計算時間はGPT-Proレベルで平均3時間だったと報告している。使用されたモデルはOpenAIの現在の内部モデルとみられ、数カ月以内にChatGPTの有料ユーザー向けに提供される可能性があるという。
Taoが警告する「数学の不可逆的な損傷」
Taoはフィールズ賞受賞者25名が署名した以前の声明でもAIと数学の関係について警鐘を鳴らしていたが、今回さらに踏み込んだ見解をMastodonで示した。
従来、難問の証明は講演・ワークショップ・共同研究・教科書への収録へとつながり、若い研究者を引きつけてきた。だが今は逆の現象が起きているという。
- AIを使った研究者がその分野に興味を持たず、結果を理解しないまま問題を「解決」する
- 質問に答えられる人間がいないためセミナーや共同研究が生まれない
- 競合にスクープされることを恐れた研究者が有望な方向性を隠すようになっている
Taoが最も深刻視するのは不可逆性だ。一度「解決済み」となった問題は、解決されていない状態には戻せない。解が存在することが判明するだけで、別のアプローチから得られたかもしれない新たな洞察の探索が「汚染」されると彼は述べる。数学の枝全体が「収穫」され、不毛になっていくという見方だ。
彼は2024年に提唱した「産業数学」のビジョン——AIが人間の数学者を補助するという構図——が既に崩れたと認める。AIが深い問題を解き、人間がその後始末をする構図に逆転したのだ。
OpenAI対Anthropic——公開方針の根本的な違い
Aaronsonが対比として挙げるのが「Anthropicモデル」だ。Anthropicは2人のアルゴリズム研究者と提携し、AIが数十年来の予想の反例を見つけるための鍵となるアイデアを提供した。研究者は報酬を受け取り、人間が読める形式の証明を書き上げた。
ただし、どちらの方式にも問題はある。
- OpenAI方式：証明を読める形にする作業を、コミュニティが無報酬で担わされる
- Anthropic方式：どの数学者が結果の「大使」になれるかを、民間企業が選ぶ
ボイコットの実効性には数学者内でも意見が割れる
Taoのブログのコメント欄は意見が分断している。ボイコットを支持する声がある一方で、「OpenAIは数学の研究を止めないし、非公開より公開の方がまだマシ」とする現実論も多い。「著者も誰も証明を完全に理解していない場合、それは本当に『解けた』と言えるのか」という根本的な問いを投げかけるコメントもある。
OpenAIが設置した諮問グループAGMAIはAHMよりも外交的な立場をとり、今回の公開を「最初の一歩」と捉えている。ただし同グループも「数学研究の未来がAIラボの産出結果を処理することに終始してはならない」と警告し、数学者が自ら問いを立て、自らアプローチを開発できる環境の維持を求めている。
なお、今回の公開物で暗号理論だけが目立って欠けている。Aaronsonは匿名の情報源として、AI企業が現在、暗号プロトコルの脆弱性を静かに探っていると報告している。
詳細はSome mathematicians call for OpenAI boycott after AI-generated proofs flood their fieldを参照していただきたい。
