5 月 13 日、Business Insider は、元 OpenAI 研究者で現在 AI Futures プロジェクトの責任者であるダニエル・ココタジロ氏が、AI 業界は各企業がまだ完全には理解していない、または制御できていないシステムの構築に競い合っていると述べたと報じました。
キャプション: ココタイロ
昨年5月の「Business Insider」記者とのインタビューで、ココタイロ氏は、AI企業が直面する中心的な問題は「調整」問題、つまり、たとえ多くの分野でAIの能力が人間を超えたとしても、将来のAIシステムが人間の指示や価値観に確実に従うことができるようにする取り組みであると説明した。
同氏は、研究者は現在、高度なAIモデルが内部でどのように意思決定を行うのかを完全には理解しておらず、この不確実性により、将来のシステムが真に「調整」され、人間が達成したい目標を安定的に実行することを保証することが困難になっていると述べた。
同氏はAI調整の実装について「公然の秘密のようなものだが、実際に実行可能な解決策はまだない」と語った。
ココタイロ氏は、2022年から2024年までOpenAIで働き、企業がより強力なモデルを構築するにつれてAIシステムがどの程度の速度で進歩するか、またどのような経済的、政治的、安全保障上のリスクが生じる可能性があるかを研究する予測研究に取り組んだ後、退社した。
現在、彼は非営利研究組織である AI の未来プロジェクトを通じて同様のテーマに焦点を当てており、AI システムがどれくらいの速度で開発されるか、企業がスピードと競争を優先し続けた場合にどのようなリスクが生じるかを分析することに重点を置いています。
「ひとたび超知性が創造されると、人間はもはやこの惑星のリーダーではなくなるでしょう。少なくともデフォルトのリーダーではないでしょう」とココタイロ氏は語った。
ココタイロ氏は、議論がSFのように聞こえることが多いため、多くの人が依然としてAI開発のスピードを過小評価していると述べた。 AI企業がより強力なモデルや大規模なデータセンターに数十億ドルを投資し続ける中で、同氏の警告が発せられた。