最近、西湖大学のZhang Yue教授のチームはAI科学者システムDeepScientistを開発し、多くのネチズンの注目を集めました。報道によると、DeepScientist は、完全な科学研究機能を備えた初の AI 科学者システムであり、目標指向の継続的な反復を実証し、人間の介入なしに人間の研究者の最先端の研究結果を徐々に上回っています。
しかし、多くのネチズンは、人間の介入を必要としないAIシステムは、研究の方向性を制御不能にしたり、誤解させたりするリスクがあると懸念している。
この点に関して、Zhang Yue氏は「AIのセキュリティ問題は常に我々が非常に重視している問題だったので、DeepScientistはそれを公表し、我々も慎重な戦略を採用した」と述べた。
彼の見解では、AI 自体の研究と AI の安全性の研究は連携して行う必要があり、AI は制御可能であると固く信じています。
同氏はまた、「AI言語モデルの研究者として、私たちは言語モデルの動作メカニズムを比較的よく理解しているため、AIの制御可能性に対しては比較的前向きな態度をとっている。また、学生にはできるだけ早い段階で AI ツールを使用し、さらに使用することを強く推奨します。結局のところ、未来の人々はAIと協力しなければなりません。 」
