要約:
OpenAI は最近、人工知能と数学研究の関係について OpenAI および他の AI 企業にアドバイスを提供するために、一流の数学者で構成される独立した諮問グループの設立を発表しました。 「数学と人工知能に関する諮問グループ（AGMAI）」と呼ばれるこの新しい組織は、AIによって生み出された数学的結果がどのようにレビュー、出版、普及されるべきか、そしてAI企業が数学研究分野における長年の学術的および専門的規範にどのように従うべきかに焦点を当てることになる。
この動きは、OpenAI が最近いくつかの主要な数学的結果を発表した後に起こりました。過去数か月の間に、OpenAI の AI モデルは数学の分野で一連の目を引く発展を遂げました。しかし、関連する結果の発表方法や、既存の数学研究の引用と帰属の問題も、数学界で広範な論争を引き起こしています。一部の数学者は、OpenAI が数学研究がどのように機能するかを完全に理解しているかどうか、また AI 企業が数学コミュニティにおける帰属、優先順位、学術コミュニケーションに関する長年確立された規範を尊重しているかどうかを疑問視しています。
AGMAI のメンバーは合計 9 名で、スタンフォード大学、ハーバード大学、オックスフォード大学、ケンブリッジ大学などの出身者であり、その中には数学分野の一流の学者やフィールズ賞やマッカーサーの「天才助成金」の受賞者も多数含まれています。この組織は、米国ニュージャージー州プリンストンにある高等研究所が主催します。かつてはアルバート アインシュタイン、ジョン フォン ノイマン、J ロバート オッペンハイマーなどの有名な科学者の研究地でした。また、現代数学研究の分野において最も影響力のある学術機関の一つでもあります。
OpenAI は、この組織は独立性を維持し、関連する提案が OpenAI によって積極的に提案されない場合でも、OpenAI に積極的に提案を提供する権限を有すると述べました。諮問グループは、AIが数学分野に与える影響についてオープンに議論し、その勧告を公表するかどうかを独自の裁量で決定することもできる。 OpenAIは、諮問グループのメンバーはOpenAIから報酬を受け取らず、メンバー構成を自分たちで調整できると述べた。
OpenAI によると、この諮問グループは、AI によって生成された新しい数学的結果がどれほど重要であるかを同社が判断するのを支援し、これらの結果のリリースを調整する方法や、数学的研究に関する学術的および専門的基準を遵守する方法について意見を提供する予定です。さらに、このグループは、OpenAI の AI ツールが数学研究と数学教育をどのようにサポートできるかについて議論します。
OpenAI は、この組織の真の価値は、メンバーが独立した判断を下して会社に疑問を持てるかどうかにかかっていると強調します。言い換えれば、諮問グループは OpenAI の研究結果を単に支持するだけではなく、結果が発表される前に数学コミュニティから独立した意見を提供したいと考えています。
しかし、この取り決めの発表後も、数学界には依然として多くの疑問があります。 1つ目は、この9人のメンバーがどのように選ばれたのかということです。スイス連邦工科大学チューリッヒ校の研究者シモン・マシャド氏は、プロセス全体にはまだ不透明な部分が多くあると考えている。 AGMAI 公式ウェブサイトの紹介によると、OpenAI は当初、外部諮問委員会の設立を希望して数人の数学者に連絡を取りました。 OpenAI との協議の後、これらの数学者たちは最終的に独立した組織を設立することを決定し、他のメンバーに参加を呼びかけました。しかし、OpenAIが最初に誰に連絡を取ったのか、そして残りのメンバーがどのように特定されたのかは完全には明らかにされていない。
諮問グループのメンバーであるマーティン・ヘアラー氏は後に、この組織の設立プロセスを取り巻く多くの疑問を説明する記事を発表しました。同氏は、人工知能は数学研究に大きな影響を与えており、結果の帰属、研究の優先順位、人間がAIによって生成された数学的アイデアを本当に理解しているかどうかなど一連の問題を引き起こしていると述べた。したがって、数学コミュニティが AI 研究室と完全に非接触のアプローチを取り、これらの企業を単に無視することは非現実的です。
ハイラー氏は、諮問グループの設立は確かに OpenAI との接触から生じたものの、9 人のメンバー全員が OpenAI と直接接触したわけではなく、最終的に設立された組織は OpenAI やその他の最先端の AI 企業から独立していることを特に強調しました。通常の機密保持要件を超えて、メンバーは意見の公の場での表現を制限する契約に署名せず、OpenAI から金銭的な報酬も受け取りません。この組織は主にプリンストン高等研究所に技術的および組織的サポートを依存しています。
ヘアラー氏は、諮問グループの最も重要な目標は数学コミュニティ全体の利益を可能な限り代表することであると述べた。彼はまた、9 人の数学者が数学コミュニティ全体の完全な代表になることは明らかに不可能であることを認めたが、メンバー全員がこの責任を非常に真剣に受け止め、誠実かつ独立した判断をもって参加すると信じていた。
諮問委員会の規模が小さいことも、別のレベルの懸念を引き起こします。現代数学は高度に専門化されており、異なる分野の間には非常に明らかな知識の壁が存在することがよくあります。世界のトップの数学者であっても、別の高度に専門化された分野では AI の結果を判断できない可能性があります。したがって、一部の数学者は、たった 9 人のトップ学者だけで AI が関与する可能性のある数学研究分野全体をカバーできるかどうかを懸念しています。
スコットランドのヘリオットワット大学の数学の次期教授フランチェスコ・フルニエ・ファシオ氏は、諮問グループに対して複雑な態度をとっていると語った。一方で彼は、AI企業が数学者ともっとコミュニケーションできるようにすれば、明らかに現状の改善に役立つと信じている。その一方で、少数の一流の学者で構成されるこの組織が、AIの急速な発展の影響を受けている膨大な数の数学研究者を本当に代表できるのかという疑問も抱いている。同氏は、この組織は現在、学術界のトップ人物で構成される「象牙の塔」に似ていると考えている。
諮問グループが将来的に数学コミュニティの信頼を獲得できるかどうかは、それが OpenAI に実際にどれだけの影響を与えることができるかに大きく依存します。特に注目に値するのは、OpenAIが諮問グループの設立を発表した際に、驚くべきニュースも明らかにしたことだ。同社が開発中のまだ正式にはリリースされていない新モデルは、ナビエ・ストークス・ミレニアム賞の問題を解決したと以前主張されていたが、現在では100以上の長期未解決の数学問題を解決しており、これらの問題は数学の多数の異なる分野に分布しているという。
OpenAI は以前、このモデルが別のミレニアム賞問題に挑戦していると発表しました。 AI モデルが新しい数学的結果を生み出し続けるにつれて、短期間に大量の研究結果をどのようにレビュー、検証、整理、公開するかが現実的な問題となっています。 AGMAI は公式 Web サイトで、現在直面している最初の課題の 1 つは、OpenAI が内部 AI モデルによって生成された多数の主要な数学的結果のリリースを調整するのを支援することであると述べています。
これは、この諮問グループがこの時期に設立された理由も説明しています。過去数か月間、数学分野における OpenAI の継続的な進歩は、人工知能の能力の向上を示す重要な実証となるはずでしたが、関連する出来事には一連の論争が伴いました。一部の数学者は、OpenAI がその結果を発表したとき、AI の結果に対するこれまでの人間の研究の貢献を十分に説明しておらず、引用や優先順位の問題を常に数学コミュニティになじみのある方法で処理していなかった、と考えています。研究者の中には、OpenAIが適切な評価を与えずに研究結果を利用していると非難する人もいる。
これらの論争により、最終的に一部の数学者は、OpenAI が数学研究コミュニティの運営方法を本当に理解しているのかどうか疑問を持つようになりました。
インペリアル カレッジ ロンドンの数学教授、ケビン バザード氏は次のように尋ねました。「過去数か月間、数学コミュニティで多くの公的議論が行われてきたため、AI が数学研究に参加することを求める数学者たちの要求が明確に表明されてきました。では、なぜ OpenAI はこれらの問題を理解するために世界のトップ数学者で構成される委員会を必要とするのでしょうか?」同氏の見解では、問題は数学コミュニティに難しい定理を解くことができる人材が不足していることではなく、AI企業が数学の分野と数学研究コミュニティ自体のルールをより深く理解する必要があるということだ。
AGMAI は現在、他の数学者との交流、公開フィードバック フォーム、Proofs や Prompts などのディスカッション プラットフォームなどを通じて、数学コミュニティからの意見を収集しています。これらのプラットフォームは最近、数学コミュニティにおける人工知能の影響について議論する重要な場となっています。
同時に、OpenAI が直面する問題は、いくつかの論文を出版する方法をはるかに超えています。 AI が長い間解決されていなかった数学的結果を独自に生成し始めると、「誰が何を最初に発見したか」、「誰が署名を得る必要があるか」、「どの人間の研究が最終結果の基礎を提供したか」など、数学研究における最も基本的な問題がすべて再定義される必要があります。
これは、数学研究分野への AI の現在の参入によってもたらされた中心的な変化でもあります。従来の数学研究は通常、研究者が論文を公的に発表し、過去の研究を引用し、査読し、既存の結果を継続的に構築することに依存しています。 AI は、非常に短時間で大量の既存の知識を読み取って処理し、新しい数学的導出を生成できます。 AIが結果を得るまでの経路を人間が完全に追跡できない場合、従来の結果の帰属や優先順位の判断方法はより複雑になります。
ナビエ・ストークス問題に対する OpenAI の解決策をめぐる最近の論争は、この問題を特に浮き彫りにしました。 OpenAI は関連する論争を調査し、Codex を使用して数学者が提出した即時の言葉は、問題に対する最終的なシステムの解決策に影響を与える可能性は低いと述べました。しかし、このような事件は依然として一部の数学者を心配させています。将来的には、AIによって生み出された数学的結果が人間のどのような研究に基づいているのかを正確に判断することがますます困難になる可能性があります。
AGMAI メンバーのヘアラー氏も、AI 企業が自社の広報ニーズに応じて諮問グループの意見を解釈したり利用したりする可能性があることを諮問グループが警戒する必要があることを認めました。しかし、AIが数学研究に必然的に参入した後は、AI企業とのコミュニケーションを完全に拒否しても問題は解決しないと同氏は考えている。数学コミュニティを AI 業界から孤立させるのではなく、双方が受け入れられる一連の基本ルールを確立するよう努めるべきです。
OpenAI にとって、この諮問グループの設立は、同社がこれまで馴染みのなかった現実に直面していることも意味します。つまり、人工知能は数学研究の補助ツールから、新しい数学的結果を直接生み出すことができる研究参加者へと徐々に変化してきましたが、従来の数学コミュニティはこの変化に対する既製のルールを確立していませんでした。
将来、AGMAI は、OpenAI 数学的結果の次のバッチをいつどのようにリリースすべきかだけでなく、AI が生成した数学的結果にどのように署名するか、人間の研究をどのように引用するか、結果の独立性をどのように確認するか、数学者と AI システムの間にどのような協力関係を確立すべきかについても解決する必要があるかもしれません。 OpenAIは、その新しいモデルが100以上の長年未解決の数学的問題を解決したと主張しており、これらの問題は理論的な議論から、直面しなければならない現実の問題へと急速に移行しつつある。
コメント