要約:
現地時間火曜日夜のインタビューで、NVIDIA CEO のジェンセン フアン氏は、最先端の AI モデルの開発を共同で遅らせることを目的とした Anthropic の AI セキュリティ独占禁止法適用除外提案を批判し、人工知能が 10 年以内に人類を滅ぼす可能性があるという議論に反論しました。
黄仁勲氏は、アメリカの著名な金融アンカーであるジム・クレイマー氏とのインタビューで上記の発言をしました。以前、Anthropic CEO のダリオ・アモデイ氏が先週土曜日に記事を発表し、人工知能の安全性をめぐる激しい議論を引き起こしました。アモデイ氏は、主要なAI研究所が協力して「最先端技術開発のペースを制御する」こと、つまり先進モデルの開発を意図的に遅らせて、企業がテストや安全保護にもっと時間を割けるようにすることを提案した。アモデイ氏は、この作業には政府の調整や関連する独占禁止法からの免除が必要になる可能性があると述べた。
Huang Renxun 氏は、AI 企業がセキュリティ問題に注意を払う必要があることに同意しますが、企業はこれらの問題を独自に解決する必要があると考えています。
Huang Renxun 氏は次のように述べています。「一部の人々は、これらの企業が製品をリリースする前に基本的なエンジニアリングを行い、研究開発を標準化できるようにするために、新しい法律、新しい独占禁止法、または新しい規制規則を導入する必要があると考えています。これはまったく必要ありません。製品の信頼性と機能を保証するための十分な法的および規制上の規定がすでにあります。」
記事の中で、Amodei 氏は、モデル開発のペースを遅らせるための 3 段階の計画を提案しました。最初の段階は、サードパーティのセキュリティ評価者を各 AI 研究室に派遣することです。第 2 ステップと第 3 ステップはそれぞれ、安全基準を巡る民主的で世界的な協力と「自由な AI 開発の速度に制限を設ける」ことです。 「技術開発のペースを効果的に規制できる一部の協力手法には法的障害があり、政府の支援が必要です。」
大手 AI ラボが競合他社であり、彼らが発売するモデルが競合製品であるため、法的問題が発生します。米国のシャーマン反トラスト法は原則として、競合他社が競争を不当に制限する合意に達することを禁止しており、特定の協力行為（製品生産量を制限する合意を含む）は違法となる可能性があります。競合する AI 開発会社が新しいモデルの開発やリリースのスピードについて共同で合意した場合、潜在的な法的リスクが発生する可能性があります。
Huang Renxun 氏は、モデル開発者には製品がリリースされる前に製品の安全性を確保する能力があると述べました。
「セキュリティはエンジニアリングの問題であり、テストもエンジニアリングの問題です。」 Huang Renxun 氏は、「製品を構築し、十分にテストする必要があります。製品がまだリリース基準に達していない場合は、発売を延期し、製品が成熟するまでテストと最適化を続けます。」と述べました。 NVIDIA は Anthropic と OpenAI の重要なサプライヤーであり、NVIDIA 自体もオープン ソースの重みモデルの Nemotron シリーズを開発しています。
AI の流行により、Nvidia は世界最大のチップ メーカーとなり、市場価値が最も高い企業になりました。高性能モデルの開発を遅らせる関連提案は、Nvidia の将来の成長にリスクをもたらす可能性があります。
Huang Renxun 氏は Cramer 氏に対し、「AI の安全性は現実的な問題です。世界中で安全に使用できる製品の開発を過小評価することはできません。企業はできるだけ早くイノベーションを起こす必要がありますが、イノベーションのためだけにセキュリティ リスクのある製品を発売してはなりません。」
ファン氏はまた、ますます強力になる人工知能モデルが人類の存続の脅威となるという警告に対しても反論した。
彼は次のように述べました。「2030 年に人類は滅びません。人工知能を正しく開発する人は世界中にたくさんいます。私たちはさまざまな安全保護措置を確立し、安全と安心のためのさまざまな技術を発明します。」
関連記事:
Huang Renxun 氏は、業界には独自にセキュリティを確保する能力があると述べ、AI に対する外部の監督を緩和するよう求めました。
コメント