要約:
イギリスの「フィナンシャル・タイムズ」紙の報道によると、Google DeepMind の共同創設者で主任 AGI 科学者であるシェーン・レッグ氏は最近、人工知能の能力は急速に向上しているが、AI 能力の開発は安全性が保証されるレベルを超えてはいけないと警告しました。同氏はまた、OpenAIの社長グレッグ・ブロックマン氏とNVIDIAのCEOジェンセン・ファン氏の「AGIが到来した」という判断にも反論した。
レッグ氏は、現在の AI 機能の開発速度は「非常に速い」ため、業界は安全対策よりも先に機能が進歩することを許すことはできないと述べました。アンスロピックのダリオ・アモデイ最高経営責任者（CEO）が最近、安全上の理由から最先端モデルのリリースを遅らせるが、研究開発を完全に停止するわけではないという提案について、レッグ氏はこの方向性は「検討に値する」と考えているが、具体的な実装方法については依然として全関係者が真剣に議論する必要があるとしている。
レッグ氏は、DeepMind が一般人工知能の展開と科学、教育、社会、政策、哲学、人間の幸福に対するその影響を研究する DeepMind Institute を正式に立ち上げた際に上記の声明を発表しました。 DeepMind の定義によれば、AGI は人間の脳のすべての認知機能を備えた人工知能システムです。
最近 AI モデルの機能が大幅に向上したにもかかわらず、AGI が実現したと宣言するにはまだ時期尚早であるとレッグ氏は考えています。同氏は、2028年までに「最小AGI」を達成する確率は50％であるという以前の予測を依然として堅持していると述べた。レッグは、「AGI」という用語の初期の考案者の 1 人でもありました。
OpenAI が GPT-6 Astra をリリースした後、Brockman 氏は「我々は AGI 時代に入った」と宣言しました。黄仁勲も「AGIが到着した」とアストラの能力に基づいて述べた。
レッグ氏は、組織によって AGI の定義が異なるとしても、Astra が OpenAI 独自の基準を満たしているかどうかは明らかではないと述べました。 OpenAI は以前、AGI を経済的価値のあるほとんどの認知タスクを完了できるものと定義していました。 Legg 氏は、これらのモデルは確かにいくつかの素晴らしいタスクを実行できるが、彼の意見では、その機能は OpenAI の AGI の定義にまだ達していないと述べました。
DeepMind Institute は、レッグ氏、DeepMind 会長のデミス ハサビス氏、Google 上級副社長のジェームス マニカ氏が共同所長を務めています。レッグ氏は、国民が強力な一般情報の可能性を真剣に受け止め始めている今、より広範な社会的議論が必要であると述べた。同研究所は、外部の専門家を招いて議論に参加させながら、ディープマインドの技術研究を一般の人々が理解できるより多くの内容に変えていく予定だ。
同研究所は、AI の安全性、経済政策、「新しいユートピア主義」の原則などをテーマとした最初の 3 つの論文を発表しました。 DeepMind の研究者である Rohin Shah 氏と Ankar Dragan 氏が執筆した記事の 1 つは、GPT-6 Astra のリリースの速さを指摘していました。
2 人の研究者は、アストラ社の推論プロセスの透明性において「憂慮すべき低下傾向」が見られると考えています。 AI企業に対する競争圧力は透明性を高めるインセンティブを損なう可能性があり、この問題に関して規制が役割を果たす可能性がある。
ただし、この記事では、透明性を確保するメカニズムがモデル設計段階に追加されている限り、業界は引き続き、より高性能なモデルを開発し続けることができると考えています。研究者らは、現時点で最も先進的な推論モデルは推論プロセスの一部を人間が理解できる形で表示することができ、これが外部の世界にとってAIの動作を観察、研究するための貴重な機会となると指摘した。
マニカ氏は、Google が参加を望んでいる AI コンペティションは 1 つだけであり、それはこのテクノロジーを正しく実現するためのコンペティションであると述べました。
コメント