米国のトランプ政権は、国家安全保障上のリスクの高まりに対処するため、最先端の人工知能モデルの管理を強化する一連の行政措置を可決することを検討している。匿名を認められたテクノロジー業界の代表者や政策顧問7人によると、高度なAIモデルの正式な審査・公開メカニズムの確立を含む新たな規制を巡るホワイトハウス内での議論がしばらく続いているという。
この問題に詳しい複数の関係者によると、最近の業界との非公開のコミュニケーションで、ホワイトハウスが提案したアイデアの1つは、いわゆる「最先端のAIモデル」の潜在的な影響を評価するための大統領令の形で審査システムを確立することだったという。 AI政策の専門家や業界関係者は、この制度の下では企業は高機能モデルをリリースする前に連邦政府から「ゴーサイン」を得る必要があるかもしれないと述べた。ニューヨーク・タイムズ紙は以前、ホワイトハウスが同様の審査体制を検討していることを明らかにしていた。
ホワイトハウス報道官は、いかなる正式な政策もドナルド・トランプ大統領が個人的に発表するとし、大統領令の可能性を巡る現在の議論はまだ「憶測」に過ぎないと述べた。同時に、ますます多くのテクノロジー企業が自発的に政府に協力し、新しいモデルをオンライン化する前にレビューのために積極的に提出しています。ちょうど火曜日、トランプ政権はマイクロソフト、xAI、グーグルディープマインドと政府が新世代モデルを公開する前に国家安全保障上のリスク評価を実施することを認める合意に達した。
この一連の行動は、テクノロジー自体の安全性への懸念や、業界の政治キャンペーンへの巨額投資への疑問など、AIに対する広く国民の不安が高まり続ける中で行われた。今月初めに発表されたPOLITICOの世論調査では、米国の有権者が全体的に人工知能に対してかなり懐疑的であることが示された。この文脈において、正式な AI 導入前レビューメカニズムは、現在ホワイトハウスによって検討されている一連の行政措置の 1 つにすぎません。他のアイデアには、AI によってもたらされるセキュリティ リスクに対してより厳しいアプローチを取ることや、テクノロジー業界が政府のセキュリティや政策の要件に対抗できる余地を制限することなどが含まれます。
事情に詳しい関係者4人によると、政府は政府によるAIモデルの使用に民間部門が「干渉」することを禁止する16ページの大統領令草案を準備しているという。この草案では、連邦調達と契約基準を厳格化し、AIベンダーとの協力において政府の権限を強化することも計画されている。この規定は、ホワイトハウスとAI企業アンスロピックとの間の最近の対立への直接の反応であると広く見られているが、アンスロピックは軍がモデルのクロードを米国民の監視や自律型兵器の駆動に使用することを拒否しており、国防総省の抗議を引き起こしている。
これに対し、ピート・ヘグセス国防長官は3月、アンスロピック社を「サプライチェーンのセキュリティリスク」に分類し、連邦政府機関による同社製品の使用を直ちに制限する異例の措置となった。多くの観察者は、AIを中心に策定されている現在の一連の政策は、トランプ政権の規制に関する考え方の重要な変化を示していると指摘した。これに先立ち、デイビッド・サックスやマーク・アンドリーセンなどの「自由放任」ベンチャーキャピタリストのロビー活動の下、ホワイトハウスは常にAI業界の規制と監督に対して比較的緩やかな「ライトタッチ」の態度をとっていた。
今、この一見「急転直下」がテクノロジー界の警戒を呼び起こしている。一部の業界代表者は、政府による規制の強化によりイノベーションのペースが鈍化するのではないかと懸念している。シンクタンク「情報技術イノベーション財団」のダニエル・カストロ会長は、「モデルの新しいバージョンがすべて最初に承認を得るために政府に提出される必要がある」世界には誰も入りたくない、と語った。同氏は、「シリコンバレーのスピード」は「ワシントンのスピード」とは大きく異なり、AI分野で中国と競争したければ米国は急速に進歩し続けなければならないと警告した。
提案された大統領令は、サイバーセキュリティにおける最先端のAI、特にAnthropicの新モデルMythosによってもたらされる新たな脅威もターゲットにしています。このモデルはまだ一般には公開されていませんが、政府や大規模機関からの初期のテスト結果では、Mythos が人間のハッカーの能力をはるかに超えた方法でソフトウェアの脆弱性を見つけて悪用できることが示されています。議論に詳しい関係者2人は、草案ではセキュリティ保護を強化するための「オープンウェイトモデル」の技術ガイドラインとベストプラクティスの策定を検討していることを明らかにした。このようなモデルはトレーニング パラメーターを公開し、ユーザーがさまざまなタスクに合わせて再トレーニングおよび変更できるようにします。ホワイトハウスはまた、最先端のAIによってもたらされる重要なシステムへの脅威から守るために諜報機関を動員することも検討していると事情に詳しい関係者3人は付け加えた。
ミトスによってもたらされる潜在的なリスクは、トランプ政権高官の間で厳重な警戒を呼び起こしています。複数の当局者は、Anthropicとの対立により、連邦政府機関が重要システムの「ストレステスト」に使用するMythosの入手が困難になるのではないかと懸念している。ここ数週間、ホワイトハウスはAI企業との緊張を「冷却」し始めた。 ２人の関係筋によると、政権はAnthropicに対するサプライチェーンのリスク判断を再評価するための審査委員会の設置に動いているが、この取り決めが最終的なAI大統領令の文言に含まれるかどうかは不明だ。
外から見ると、Mythos の出現により、ホワイトハウス内の AI と国家安全保障に関する議論の枠組みが再構築されています。バイデン政権で新興技術顧問を務め、現在はシンクタンク進歩研究所の研究員を務めるサイフ・カーン氏は、以前は政府内で関連リスクに対するある程度の軽蔑があったが、「しかし今では多くの人がこの問題を非常に真剣に受け止め始めている」と述べた。同氏によれば、シリコンバレーのベンチャーキャピタルの論理だけによって導かれたAI政策の時代は、トランプ政権内で終わりを迎えつつあるのかもしれない。