要約:
OpenAI と数学コミュニティの間の緊張が再び高まっています。フィールズ賞受賞者のテレンス・タオ氏は最近、人間数学協会（AHM）が発表した声明を個人ブログに再投稿し、OpenAIが数学界の研究規範を無視していると批判し、数学者らに協力をやめるように呼び掛けた。この論争は、OpenAI によって公開された一連の数学研究原稿に端を発しています。その内部モデルは約 4,000 の数学的問題の解決を試み、最終的に 372 セットの結果を含む研究資料を編集し、いくつかのリーン形式証明コードを公開しました。
しかし、結果の規模は学術コミュニティによって満場一致で認められたわけではありません。数学者が気にしているのは、証明が正しいかどうかだけではなく、導出が理解できるかどうか、以前の研究が完全に引用されているかどうか、そして仲間同士の議論を通じて新しい手法を既存の知識システムに統合できるかどうかです。
形式的検証は論理的導出をチェックできますが、命題の意味、研究貢献、学歴の手動レビューを自動的に置き換えることはできません。声明は「一度に700以上の文書を公開することは、学術研究ではなく権力を証明している」と述べた。
このユニークなゲーム予想に長年深く関わってきた理論コンピュータ科学者のダナ モシュコヴィッツ氏は、OpenAI が公開した関連論文をすぐに調査し、その論文には理解できない構造、不明確な推論手順、わかりにくい参考文献がたくさんあると述べました。テキサス大学オースティン校の理論コンピューター科学者であるスコット・アーロンソンは、OpenAI の発表の日を「数学の黙示録」と表現しました。
一部のネチズンは、テレンス タオの見解は極端すぎるため、すべての人に利益をもたらすテクノロジーの開発を妨げるべきではないと考えています。ノースウェスタン大学の数学者ブリナ・クラ氏は、AIは研究者が過去に解決が困難だった問題を探索するのに役立つと期待されているが、企業は同僚が研究を確認し、理解し、研究を継続できるように、学術基準とより一貫性のある方法で結果を公表する必要があると考えている。
両者の対立の核心は、AI が結果を生み出す速度と人間の理解とのギャップにあります。従来の数学研究では、論文、セミナー、同僚の交換を通じて証明と方法の改善を段階的に説明する必要があります。商業研究機関が一度に何百もの複雑な原稿を出版すると、その後の検証、改訂、知識の統合にかかるコストが学術コミュニティに転嫁される可能性があります。したがって、研究課題、出版ペース、モデルリソースは、一握りのテクノロジー企業の影響を受けることが増えています。
この論争は突然生じたわけではありません。テレンス・タオ氏は以前、他のフィールズ賞受賞者24名と声明文に署名し、数学的問題をモデル能力のベンチマークとして使用することは、技術競争が数学的研究における理解と洞察を追求するという本来の意図から逸脱する可能性があるとAI企業に警告している。
9 月 29 日、数学と人工知能に関する諮問グループ (AGMAI) は、最先端の AI 研究室が外部からアクセスできない内部モデルを使用して難しい数学的問題をテストすることに明確に反対する勧告を発表しました。
OpenAI は、このリリースは AGMAI の推奨事項に基づいていると述べました。 AHMは、同社が勧告の中核となる前提を無視しているため、数学者らにOpenAIへの協力をやめるよう求めたと考えた。さらに、AGMAI は研究室に対し、モデルを宣伝するためのマーケティング ツールとして数学的結果の発表を使用しないよう求めています。関連するリリースでは、モデル名、プロンプトワード、コンピューティング電力コスト、障害記録などの情報を開示する必要があります。
AI が科学研究の出力能力を向上させ続けるにつれて、数学界はもはや機械が定理を証明できるかどうかという問題に直面しているだけでなく、研究の方向性を誰が決定するのか、検証のコストを誰が負担するのか、そして技術の進歩が引き続き知識の蓄積に役立つことをどのように保証するかという問題にも直面しています。
コメント