要約:
フィールズ賞受賞者で有名な数学者のテレンス・タオは最近、人類の人工知能への依存度が高まっていることについて警告を発しました。同氏は、人間の思考や問題解決のプロセスが徐々に AI に引き継がれるにつれ、人間は問題そのものやその解決策についての理解を失いつつあり、この傾向は近いうちに現実世界に深刻な影響を与える可能性があると懸念している。
これらの発言は、10 月 16 日にカリフォルニア大学ロサンゼルス校で開催された Science x AI サミットでのテレンス タオ氏のスピーチから引用されたものです。科学人工知能研究財団 (SAIR) は最近、「Math 2.0」というタイトルの完全なスピーチ動画を YouTube で公開し、その後関連クリップが海外のソーシャル プラットフォーム X で注目を集めました。
「私たちは AI に思考を委ね、AI に問題を解決してもらっています。しかし同時に、私たちは保証も失いつつあります。AI が与えてくれる解決策が本当に私たちが望むものであるかどうか確信が持てません。」 Tao Zhexuan 氏は、「現実の世界でこの影響がすぐに現れるのではないかと本当に心配しています。これは実際、数学の分野以外でも私が抱いている心配です。」
Tao Zhexuan 氏は、数学分野における人工知能の進歩により、従来の問題解決方法が変化しつつあると指摘しました。かつて、数学者は複雑な問題を解決するために、関連する理論を長期間にわたって研究して理解し、その過程で新しい知識を蓄積する必要がありました。しかし、現在ではAIはすぐに答えを返してくれますが、その答えの背後にある推論プロセスを人間が理解することはできないかもしれません。
数学的証明は通常、正式なツールを通じて検証できるため、純粋数学の分野では、そのような変化のリスクは比較的制御可能であると彼は考えています。しかし、同じアプローチを現実の世界で使用すると、状況はさらに複雑になります。
Tao Zhexuan 氏は、送電網、航空交通管制、医薬品の研究開発、チップ設計の分野について具体的に言及しました。同氏は、将来、人々が複雑な問題を処理するために AI に直接引き渡しても、基礎となるモデルや現実世界の制約については十分に理解していない可能性があると懸念しています。
この場合、AI によって与えられる解決策は数学モデル内で完全に確立されている可能性がありますが、それは現実世界の実際のニーズを満たしていません。 AI はモデルの抜け穴や境界条件を見つけ、表面的な指標は満たしながらも、人間が当初達成したいと望んでいた目標から逸脱する可能性もあります。
Tao Zhexuan 氏は、問題は AI テクノロジー自体にあるのではなく、人間が AI をどのように使用するかにあると強調しました。彼は、AI が人間の問題解決を支援するだけでなく、問題に対する人間の理解を高め、研究者がモデルの限界と潜在的なリスクを特定できるようにするために、いわゆる「Math 2.0」時代への数学研究を促進することを提唱しています。
10 月 22 日、テレンス タオ氏も Nature 誌に記事を掲載し、AI 時代の研究目標を再検討するよう数学界に呼びかけました。同氏は、AIが人間が結果を理解し消化するよりも早く数学的証明を生成するため、数学研究が新たな課題に直面していると指摘した。
Tao Zhexuan 氏は、AI ツールには人間の理解を高める可能性があると考えていますが、そのためには研究方法とインセンティブ メカニズムの変更が必要です。 AI時代に本当に保持しなければならないのは、正解を得る能力だけではなく、人間が答えを理解し、テストし、判断する能力です。
コメント