要約:
最先端の人工知能の開発を積極的に減速すべきかどうかをめぐる議論は、ここ数日で急速に白熱しています。 Anthropic CEOのDario Amodei氏はAI業界全体に対し、高度なモデル機能のペースを落とすよう公に呼びかけ、その後OpenAIのCEOであるSam Altman氏とxAIのCEOであるElon Musk氏が支持を表明した。
しかし、アメリカのテクノロジー投資家で大統領科学技術諮問委員会の委員長であるデイビッド・サックス氏は、OpenAIとAnthropicが現在のAI開発の速度がブレーキをかける必要があるほど危険であると本当に信じているのであれば、独自に研究開発を遅らせることができ、追加条件として業界の調整、独占禁止法の適用除外、または政府の承認メカニズムを課すべきではないと考え、この取り組みを厳しく批判した。
Amodei は以前、最先端の AI 機能が重大なセキュリティ リスクを生み出す可能性のある段階に急速に近づいていると警告する記事を公開しました。同氏は、モデルが現在のスピードで開発を続け、セキュリティメカニズムが追いつかない場合、今後6～12か月以内に、AIエージェントクラスターがインターネットを大規模に制御し、サイバー攻撃やその他の深刻な危害を加えるために使用される可能性さえあると考えている。
Amodei は、「最先端 AI の速度低下」と呼ばれる一連の計画を提案しました。これには、独立した第三者のセキュリティ評価機関が AI 企業に深く入り込み、従業員に近い権限でモデルのセキュリティを継続的にチェックできるようにすることが含まれます。大手の AI 研究所がセキュリティ基準を調整して、企業が競争圧力によってセキュリティのしきい値を常に下げないようにする。その一方で、米国とその同盟国との緊密な協力を促進し、最終的には中国を含む他国とAIの安全保障問題について話し合う。
この取り組みはすぐに OpenAI からの支持を得ました。アルトマン氏は、AI業界は最先端モデルの開発を遅らせる必要があるというアモデイ氏の見解に同意し、この問題はOpenAI内で最近議論されている重要なテーマになっていると述べた。マスク氏も公に賛同を表明した。短期間のうちに、世界で最も重要な AI 企業のいくつかが、「適切な減速」の問題に関してまれな合意に達しました。
しかし、サックス氏は、ここには明らかな論理的問題があると考えています。
彼の見解によれば、アモデイとアルトマンが、次世代 AI モデルには速度を落とす必要がある深刻なリスクがあると本当に信じているのであれば、両社は政府の承認を待つ必要も、競合他社を説得する必要も、新たな法的枠組みも必要ないということだ。現在、最も先進的な AI 開発企業である彼らは、研究開発と導入のスピードを直接的に低下させる可能性があります。
サックス氏は、これらの企業が一部の AI システムが人間を脅かすほど危険であると本当に信じているのであれば、「最も簡単な方法」は、これらのシステムの開発やリリースを継続しないことであるとさえ示唆しました。政府に新たな規制制度の創設を求めるのではなく、最先端のAIの研究開発能力を真に習得した企業が自ら取り組んでいく方がよいと考えている。
サックスが本当に反対しているのは、業界の調整と規制の取り決めを含むアモデイの計画の部分である。同氏は、OpenAIやAnthropicなどの競合企業が政府を通じて独占禁止法の適用除外を取得し、業界全体でAIを開発するスピードを共同で決定すれば、その取り決めは実際に「カルテル」に発展する可能性があると警告した。
サックス氏の見解では、最も有力な AI 企業数社が共同で最先端の AI の開発ペースを設定できるようにすると、セキュリティの目標とはまったく異なる結果が生じる可能性があります。既存の大手企業は、このメカニズムを通じて競争を制限するだけでなく、規制制度を利用して後発企業の市場参入の敷居を高め、それによって主導的地位をさらに強化することもできる。
これはサックス氏の批判の核心でもあります。彼は単に AI 産業の減速に反対しているのではなく、企業が本気で減速したいのであれば、政府に代わりに何らかの法的保護を求めるのではなく、自ら行うべきだと考えています。
サックス氏は、「AI食品医薬品局」のような事前承認制度の創設にも反対している。同氏の見解では、高度な AI モデルが正式にリリースされる前に、政府機関がこれらの製品を 1 つずつ承認する必要はありません。新たに事前ライセンスの仕組みを確立するよりも、既存の製造物責任制度に頼って、AI企業が自社の製品とその結果に対する法的責任を負えるようにする方がよいでしょう。
たとえば、AI モデルが重大なサイバー攻撃を開始するために使用された場合、または AI モデル自体の欠陥により直接大きな損害が発生した場合、モデル開発会社は対応する製造物責任を負う必要があります。サックス氏は、この潜在的な法的および経済的影響自体が、AI 企業がリスクを制御するための重要な制約になる可能性があると考えています。
彼はまた、資本市場にも抑制効果があると考えています。特定の AI 企業の製品で安全性の問題、予期せぬ動作、重大な事故が頻繁に発生した場合、その企業の評判、顧客の信頼、市場評価が直接影響を受ける可能性があります。したがって、AI産業については、既存の法制度から完全に独立した特別な認可制度を設ける必要はありません。
同時に、サックス氏は一部の AI 安全性評価メカニズムの独立性にも疑問を呈しました。同氏は、Anthropic社が利用しているセキュリティ評価機関について特に言及し、評価機関と評価対象の企業との間に投資関係、人的関係、その他の利害関係がある場合、この評価が本当に独立しているかどうかはさらなる議論に値すると考えた。
この論争は非常にデリケートな時期に起こりました。過去数か月の間に、AI 業界内のセキュリティ リスクに対する懸念が大幅に高まりました。 Anthropic は最近、AI システムの悪用、ネットワーク攻撃能力、セキュリティ保護に関連する一連の事件を明らかにしました。社内の研究者らもAI開発のスピードについて懸念を公に表明している。
その中で、ある人類研究者は最近辞任した際、AI 業界が非常に危険な可能性のあるテクノロジーを過度に速いペースで進歩させていると公に警告しました。 Anthropic 内の他のセキュリティ研究者も、将来 AI が制御不能になるリスクについて深刻な懸念を表明しています。
したがって、アモデイの減速を求める公の呼びかけは単独の政策声明ではなく、AI セキュリティ議論全体のさらなるエスカレーションの結果です。
しかし、たとえ企業が本気でスピードを緩めようとしても、実際の業務は見かけよりもはるかに複雑です。 OpenAI、Anthropic、Google DeepMind、xAI、その他の AI 企業はすべて激しく競争しています。いずれかの企業が研究開発を一方的に遅らせると、競合他社がこの機会を利用して研究開発を加速し、モデル能力、市場シェア、資本市場で優位性を獲得するのではないかと心配するかもしれません。
これは実際、典型的な「囚人のジレンマ」を形成します。すべての AI 企業が同時に減速すれば、業界全体がセキュリティ対策を改善するための時間が増える可能性があります。しかし、競合他社が進歩を続ける中、1 社だけが減速した場合、積極的に減速した企業が商業的および技術的損失を被る可能性があります。
これが、OpenAI が業界の調整が米国の独占禁止法に違反するかどうかにすでに注意を払い始めている理由です。報道によると、OpenAIはAI開発を遅らせる業界の調整が合法かどうかについて米国議員に明確な意見を求めたという。なぜなら、競合する複数の企業が共同して最先端モデルの開発を遅らせることを決定した場合、その調整自体が独占禁止法上の問題を引き起こす可能性があるからだ。
その結果、非常に厄介な問題が生じます。AI のセキュリティを向上させるために、企業は通常は独占禁止法によって制限されている競合他社間の調整を許可すべきでしょうか?
支持者らは、各 AI 企業が減速だけでは競争上の不利につながることを認識している場合、業界レベルで何らかの調整を行うことによってのみ、すべての企業が真に同時にブレーキをかけることができると考えています。
サックス氏は、これが大手 AI 企業がセキュリティ問題を利用して特別な規制上の措置を求める理由になる可能性があると考えています。同氏は、政府が独禁法適用除外を通じて複数の大手企業の協調を認めれば、このメカニズムは最終的には「安全保障上の協調」から市場競争を制限する手段に進化するのではないかと懸念している。
同時に、AI の減速に対する米国政府の態度とこれらのテクノロジー企業の主張には明らかな違いがあります。トランプ米大統領は最近、AIが一定の「ガードレール」を設置できると信じているが、米国がリスクを過剰に懸念してAIの開発を遅らせることは望んでいない、と公に述べた。現在、米国はAI分野で中国をリードしており、「AIに勝った者が未来を勝ち取ることになる」と強調した。したがって、米国は技術的リーダーシップを簡単に放棄することはできない。
これは、AI のセキュリティ問題と中国と米国のテクノロジー競争にも直接関係しています。
アモデイ氏自身も、中国やその他の国が加速し続ける一方で、米国が一方的に AI 開発を大幅に減速させれば、米国は技術的優位性を失う可能性があることを認めた。したがって、同氏が提案しているのは、米国企業にAIの研究開発を無期限に中止するよう求めるのではなく、主要国や企業が何らかの調整メカニズムを形成し、競争上の優位性を維持しながらセキュリティ対策の時間を稼ぐことができるよう期待するというものだ。
問題は、すべての国が同時に減速することを保証するメカニズムが現時点では存在しないことです。
これは、業界の大規模な景気減速に反対する人々にとって、最も重要な理由の 1 つでもあります。 AI が国家戦略的競争の重要な部分となった場合、競合他社が自発的に立ち止まり、自社のセキュリティ システムが改善されるのを待つとは、どちらの当事者にとっても信じがたいことです。
したがって、Sacks、OpenAI、および Anthropic の間の議論は実際には、「AI はどのくらいの速度で開発されるべきか」という単純な技術的問題をはるかに超えており、より複雑な産業政策の選択を含んでいます。つまり、最先端の AI の開発速度を企業が決定すべきか、それとも政府が統一ルールの策定に参加すべきか、というものです。安全に関する調整を合法的な業界協力と見なすべきか、あるいはそれが競争を制限するカルテルに発展する可能性があるかどうか。 AI事故は事前規制によって回避されるべきか、それとも企業が製造物責任を通じて事後コストを負担すべきか。
現時点では、Sacks は OpenAI と Anthropic が率先して減速することに反対していないようです。両社が最先端AIのリスクが研究開発を遅らせるほど深刻であると本当に信じているのであれば、それを支援することもできるとさえ明言した。
しかし、彼の条件も明確でした。速度を緩めるべきだと思うなら、自分自身の速度を緩め、政府の承認、独占禁止法による免除、または特別な規制による保護と引き換えにしないでください。
この議論の本当の結末は、最終的には OpenAI と Anthropic が次に何をするかによって決まるかもしれません。彼らが特別な法的扱いを受けずに最先端モデルの開発を遅らせることに本当に率先して取り組むのであれば、「AIの速度を落とす」ことは本当の安全保障上の行動とみなされる可能性が高くなるだろう。最終的に形成されるのが、後発企業の参入を制限しつつ、少数の大手企業が共同でルールを策定する規制制度であれば、「規制の捕獲」と「カルテル」に対するサックス氏の懸念はさらに注目されることになるだろう。
AI モデルの機能は急速に向上し続けるため、「加速か減速か」をめぐる議論がすぐに終わるわけではないことは明らかです。これは、今後数年間で米国および世界の AI 政策における核心的な矛盾の 1 つになる可能性があります。
コメント