要約:
Anthropic は、新製品のリリース前にテストのために最新モデルを英国の人工知能安全性協会 (AISI) に提出することを拒否しました。この動きにより、英国政府内ではテクノロジー企業がトランプ政権のAI保護主義路線に従っているのではないかとの懸念が高まっている。
今後数週間以内に大規模な IPO を準備しているこの 1 兆ドルの企業は、先週、最新モデルである Claude Mythos 5.1 を発表し、これをライフ サイエンスとサイバーセキュリティで最も有能なモデルと呼びました。
しかし、このモデルが認定された米国の機関のみに公開されたのはこれが初めてであり、英国の人工知能セキュリティ研究所 (AISI) はアクセスできませんでした。 AISI は、最先端の大型モデル評価の分野で世界をリードする組織です。
複数の英国政府関係者は、AISI はモデルが公開される前にアクセス権を取得できなかったと述べ、このことがホワイトホール (英国中央政府) と研究所内で警戒を引き起こしたと述べた。 AISI は、世界的な人工知能競争における英国の最も重要な交渉材料です。
ある政府内部関係者は、「国家安全保障当局者らはこれを懸念している。彼らは実際にはMythos 5.1をテストしていない。各方面で大きな不安が広がっている…彼らは、これが前例となり、AISIが今後最新モデルにアクセスできなくなるのではないかと懸念している。」
ここ数カ月間、トランプ政権は AI 業界に対してますます厳しい姿勢を示しており、広範な輸出規制を導入し、すべての外国人 (米国の AI 企業の従業員を含む) による Anthropic の最上位モデルへのアクセスを一時的に制限しています。
情報筋は、ホワイトホール内の一部の人々が、Anthropic が米国政府の指示に従って Mythos モデルの新バージョンを AISI に公開することを拒否したと信じていることを明らかにしましたが、この憶測は確認されていません。 3年前に設立されたAISIは、今月の正式リリースに先立って、すでに新しいOpenAIモデルAstraを評価用に入手している。
アントロピック氏はコメントを拒否した。同社は先週、「できるだけ早くより多くの国内外のパートナーにモデルの開放を拡大するために米国政府と調整している」と述べた。
今年 6 月、米国政府は、ネットワーク セキュリティに重点を置いた Anthropic の 2 つのモデルである Fable と Mythos に対して輸出規制を導入し、外国人によるこのテクノロジーの使用を禁止しました。この事件は、上記の規制が導入された後に発生しました。
米国は、このモデルに「脱獄」の脆弱性があることを発見しました。これは、ソフトウェアに組み込まれたセキュリティ ガードレールを回避できる方法であり、直ちにこの制御を実装しました。この発見の結果、Anthropic は数週間にわたってその最先端モデルを世界市場から削除しました。
この事件により、ホワイトハウスとシリコンバレーの間の対立が激化しました。シリコンバレーは、米国政府が最先端のAIに関する一時的な緊急規制を導入したことを批判している。
この動きは多くの政府の反対も引き起こしており、関連諸国は米国が禁止によって同盟国を罰していると非難している。 EUの執行機関である欧州委員会は当時、安全保障リスクは「共通の課題」であり、講じられた措置は「パートナー国に対する差別にあたるべきではない」と警告した。
英国政府関係者は、英国が最先端の AI モデルを入手できなければ、安全保障上の影響に直面するだけでなく、経済も打撃を受ける可能性があることを明確に認識しています。
メディアは先月、政府業務の調整を担当する内閣府が、一般消費者や企業が最新バージョンの AI モデルを使用できなくなる可能性があるリスクの緊急評価を指示したと報じた。
Anthropic と米国政府の関係は、今年初めから緊張しています。同社は以前、契約条件をめぐって米国防総省と膠着状態にあり、その後米国は同社をサプライチェーンのリスク主体と認定した。
ここ数カ月間、米国の大手 AI 研究所とトランプ政権の一部との関係は緩和されたようで、両当事者はミトス モデルと寓話モデルのリリースに向けて緊密に協力しています。
英国内閣府は、「人工知能安全性協会 (AISI) は、モデルの安全性を向上させるために、Anthropic を含む業界パートナーと緊密に協力し続けます。」
コメント