要約:
人工知能業界では「開発スピードを減速すべきかどうか」をめぐる議論が急速に加熱しており、中国はこの議論の中心に追い込まれている。アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は最近、世界が人工知能の開発に速度制限を設けようとする場合、最大の現実的な問題は技術そのものではなく、中国などの競合企業が加速し続ける可能性にどう対処するかであると公に述べた。
アモデイ氏はメディアのインタビューで上記の声明を発表した。つい最近、同氏は、セキュリティ研究、ガバナンスのフレームワーク、リスク管理により多くの時間を確保するために、最先端モデルの機能向上の速度を積極的に減速するよう人工知能業界に呼びかけた長い記事を発表し、広く注目を集めたばかりだった。彼は、特に人工知能が人工知能の研究開発に参加する傾向が出現して以来、近年の大規模モデルの進歩は多くの人々の予想を大幅に上回っており、技術能力の向上が加速していると考えています。
しかし、このアイデアの実際的な実現可能性について語る際、アモデイ氏は中国が計画全体に直面する「最も困難なジレンマ」であることを認めた。同氏は、他の国が加速し続ける中、一部の国や企業だけが減速を選択した場合、積極的に減速する側が技術競争や経済的利益、さらには軍事的優位性の点で不利になる可能性があると述べた。
アモデイ氏は、長期的には国際社会が協力して人工知能の開発に何らかの「速度制限メカニズム」を確立し、無秩序な競争を回避し、安全境界を迅速に突破するための技術能力を促進する必要があると考えている。しかし同氏はまた、先進的な人工知能の能力を最初に獲得することで得られる戦略的メリットが非常に大きいため、そのような協力は非常に難しいとも述べた。彼は、そのような世界的な協調が実際に達成できるかどうかすら確信が持てないと認めているが、それでもそれに向けて努力する必要があると信じている。
この声明は、人工知能の安全性の問題が引き続き注目されている中で出されました。最近、Anthropic と OpenAI の多くの研究者が、人工知能システムの開発速度がセキュリティ研究の進歩を上回っているとの懸念を公に表明しました。一部の研究者は、今後数年間に深刻な制御不能に陥るリスクは一般に認識されているよりも高くなる可能性があると警告しています。
アモデイ氏が減速の呼びかけを行う前に、人類研究者のジェイコブ・コクソン氏はすでに辞任を発表し、AI業界の現在の発展軌道を公に批判していた。同氏は、大手AI研究室はあまりにも高いリスクを負い、このリスクは人類社会全体に影響を与える可能性があると考えている。
同時に、近年の中国の人工知能産業の発展のスピードは、米国のテクノロジー業界からも大きな注目を集めています。過去数カ月間、多くの中国の人工知能企業が発表した新モデルは米国の主要製品との差を縮め続けており、世界のAI競争環境の変化についてシリコンバレーでの議論がさらに激化している。
アモデイ氏の講演と同時に、中国指導者らはBRICSサミットで合意に基づく世界的な人工知能ガバナンスの枠組みの確立を求め、人工知能のためのオープンソース協力システムの構築を支持した。これにより、人工知能のガバナンスの問題は科学技術の分野から国際政治や外交のレベルまで徐々に拡大してきました。
アナリストらは、人工知能業界が現在前例のない矛盾に直面していると指摘しました。一方で、ますます多くの企業や研究者が監督を強化し、最先端の能力の拡大を遅らせることを求めています。その一方で、戦略的に重要であると考えられているこの技術競争において、各国は競合他社に後れを取ることを望んでいません。
同時に、米国の人工知能のトップ企業 2 社、Anthropic と OpenAI は上場の準備段階にあります。資本市場、政府規制、世論からの注目が高まり続ける中、人工知能が全速力で進歩し続けるべきか、それとも積極的に減速すべきかについての議論は、今後数カ月でさらに激化すると予想されている。
アモデイ氏にとって、問題の核心は、テクノロジーが強化できるかどうかだけではなく、テクノロジーが強化され続けたときに、人間社会が十分な速度で対応するルールを確立できるかどうかです。すべての現実的な課題の中で、この世界的な人工知能ガバナンスの議論において、中国に関連する競争にどう対処するかが依然として最も複雑で答えるのが難しいと彼は考えています。
関連記事:
Anthropic は、複数の中国の AI 企業が大規模な事業を行っていると非難しています。 Alibaba、Dark Side of the Moon、DeepSeek は数千万件のインタラクションで告発
コメント