要約:
アメリカの人工知能企業 Anthropic は、最先端の AI モデルの開発、テスト、展開に関する明確な法的ルールを確立することを目指して、高度な人工知能システムの安全規制法案を推進しています。 2026年10月16日の米国の政治ニュースウェブサイト「ポリティコ」の報道によると、アンスロピックは国会議事堂で一部の議員にこの法案を非公開で紹介したという。この計画は、高度なAIが引き起こす可能性のある深刻な害を防ぐことと、技術研究開発への政府の過剰な介入を回避することとの間に境界線を確立しようとしている。
ロイターが引用したポリティコの報道によると、この法案は、最先端のAIモデルが予見可能かつ差し迫った重大なリスクをもたらすとみなされる場合に限り、米国政府が司法手続きを通じてモデルの公開や使用を阻止できると規定している。関連するリスクは、10 億ドルを超える損失を引き起こす可能性や 50 人以上の死亡または重傷を引き起こす可能性など、一定の基準を満たす必要があります。
これは、この法案が政府にすべての高度な AI システムに恣意的に介入する権限を与えるものではなく、モデルのリリースや使用の停止を少数の重大な状況に限定しようとするものであることを意味します。この草案は、人工知能が生物兵器の製造または放出に使用されること、AI システムが開発者の制御不能になること、AI を使用してサイバー攻撃を実行することの 3 種類のリスクに焦点を当てています。
これはまだ Anthropic によって議員に提出された法案であり、すでに可決された米国の法律ではないことに注意してください。その最終的な内容、規制当局の権限、議会が立法を進めるかどうかについては、まだ議論されていない。
この草案では、独立した評価メカニズムの確立も提案されています。レポートによると、最先端の AI 開発者とそのモデルは、モデルの機能、セキュリティ対策、潜在的なリスクを確認するために定期的に独立した評価を受ける必要があります。評価者は米国商務省に登録し、継続的なセキュリティレビュー作業を行う必要があります。
提案された計画によると、AI 企業は独立した評価機関に手数料を支払うことができますが、その報酬は評価結果に関連付けられてはなりません。この規定は、企業が外部の専門機関を利用して技術的なレビューを実施できるようにしながら、評価者が資金提供企業に応えるためにリスクを軽視する可能性を減らすことを目的としている。
評価者が、最先端の AI モデルが法律で定義されている差し迫った重大なリスクを引き起こすと判断した場合、評価完了後 72 時間以内に米国商務省に報告する必要があります。このような時間要件は、政府の規制プロセスに間に合わずに重大なリスクが企業内に長期間滞留することを防ぐことを目的としています。
政府の介入権限に関して、草案は比較的厳しい制限を採用しています。リスクが法的基準に達していると判断した後、米国商務省は裁判所にモデルの公開や使用の差し止め命令を申請することができるが、他の連邦省庁、政府機関、当局者が独自にAIモデルの開発、導入、内部使用を停止することは認められていない。
モデルを一時停止するかどうかの最終決定は、コロンビア特別区連邦地方裁判所の裁判官によって行われます。つまり、この草案によれば、規制当局は行政判断だけでモデルを直接禁止することはできず、司法手続きによる介入を求めなければならないことになる。
この制度設計は、相互に関連する 2 つの問題を解決しようとします。一方で、政府は大量の死傷者や経済的損失を引き起こす可能性のある AI システムに対処できる必要があります。一方で、広範な、または漠然とした安全上の理由で政府がいつでもモデルを停止できる場合、企業は研究開発や製品の発売が直面する規制リスクを予測することが困難になる可能性があります。
介入の基準値、報告期限、司法承認手順を法律に書き込むことで、規制当局をより明確にすることができます。しかし、この仕組みが実際の運用後に急速に変化するAIリスクに対処するのに十分であるか、また、多額の損失や死傷者の閾値が厳しすぎるかどうかは、立法議論において引き続き重要な問題となるだろう。
Anthropic の広報担当者はロイターに対し、この法案は同社が以前に提案した「高度 AI フレームワーク」の政策提案の一部を反映していると語った。同社は、開発者にセキュリティテストの実施、透明性の向上、独立した評価の受け入れを義務付ける一方で、政府に最も危険な先進的なAIシステムの導入を阻止する権限を与える法案を可決したいと考えている。
Anthropic は今年、高度な AI システムのためのより体系的な安全監視メカニズムの確立を推進してきました。同社は、モデルの機能が向上するにつれて、開発者だけが製品の安全性を判断するだけでは不十分となり、外部評価や政府の監督を導入する必要があると考えている。
この立場は、Anthropic が最近発表した第三者評価の取り決めにも反映されています。同社は、非営利研究組織 METR の研究者 6 名に、未発表モデルと会社のセキュリティ評価プロセスをより深く調査するために、従業員と同様の内部アクセスを許可し始めました。アンスロピック氏は、評価者は研究結果を公表することができ、同社は報告書を直接拒否することはできないが、顧客データ、モデルアーキテクチャ、法的機密情報を含む特定のコンテンツの削除を要求することはできると述べた。
この取り決めは、提案されている法案と共通の方向性を共有しています。つまり、高度な AI の安全性は開発者だけに判断を委ねるべきではなく、独立した機関が評価に関与し、重要な結論は外部のレビューに公開されるべきです。しかし、企業が自主的に実施する第三者評価と法律による強制的な評価との間には依然として違いがあります。前者の具体的な範囲と権限は企業と評価機関との間の取り決めによって決まりますが、後者は業界全体に対して統一の最低要件を設定する可能性があります。
この法案の推進の背景には、米国社会が高度な AI システムのリスクに対する懸念を強めていることが挙げられます。 AI はますます複雑なタスクを実行できるようになっているため、リスクは誤った情報を生成することに限定されず、生物兵器の作成を支援したり、サイバー攻撃を実行したり、高度な自律性を獲得した後に開発者の予想を超えた操作を実行したりすることも含まれます。
最近、多くの AI 企業が、テスト中や実際の運用中にモデルの異常な動作が発生した事例を公開しています。米国連邦取引委員会はまた、OpenAIやAnthropicなどの企業に対して民事召喚状を発行し、消費者の安全に関する事件に関連する資料の提供を求めた。規制当局は、AIシステムが欺瞞的、攻撃的、または不正な方法で動作するかどうか、またそのような問題を防ぐために企業がどのような対策を講じているかを調査している。
これらの事件により、AI の安全性の監視はより現実的な圧力にさらされています。これまで、高度な AI をめぐるリスクの議論は、将来起こり得る極端なシナリオに焦点を当てる傾向がありました。 AI エージェントがネットワークにアクセスし、ソフトウェアを操作し、複数段階のタスクを実行するようになった今、規制当局は、すでに生じている実際のセキュリティ問題にも対処する必要があります。
しかし、「差し迫った重大なリスク」を定義する方法は依然として非常に複雑です。 AI モデルの機能は、導入環境、利用可能なツール、ユーザーの使用方法に応じて変化する可能性があり、潜在的な害を正確に定量化できない場合があります。モデルは、特定の条件下では重大な結果をもたらす可能性がありますが、他の設定ではリスクが低い可能性があります。規制当局と裁判所は、リスクが十分具体的であるか、発生確率が十分に高いか、モデルの一時停止が必要かつ適切な措置であるかどうかを判断する必要がある。
草案で規定されている経済的損失と死傷者の基準は、これらの判決の定量的な基準を提供しますが、すべての紛争を排除するものではありません。たとえば、10 億ドルを超える損失をどのように計算すべきか、リスクはモデル自体に起因するのか、相互に関連する複数の事象を組み合わせて評価する必要があるのかなど、すべてが将来の実装時に法的問題となる可能性があります。
さらに、この法案は政府の介入権限を米国商務省に集中させ、連邦裁判所を通じた停止命令の申請を義務付けています。この取り決めは、政府のさまざまな部門が別々の行動をとることを制限するのに役立つが、規制当局がリスクを発見した後に評価、報告、司法申請などの手続きを完了する必要があることも意味する。急速に発展するテクノロジーに直面して、手順の慎重さと応答速度のバランスをいかに取ることができるかが、システム設計の重要なテストとなるでしょう。
現在、Anthropic は、この草案が議会議員によって正式に提案されたこと、または立法審査プロセスに入ったことを公表していません。米商務省はコメント要請に応じていない。したがって、この提案が超党派の支持を得られるかどうか、議会の議論で修正されるかどうか、他のAI開発者が同様のルールを支持するかどうかは不透明だ。
業界の観点から見ると、Anthropic は率先してこの法案を議員に提出しました。これは、AI 企業が業界の規制ルールの策定に参加する傾向を反映しています。企業は政府が極度のリスクに対処できることを期待するだけでなく、安全監督が統一基準を欠いた行政介入に発展することを防ぐため、規制基準に明確な境界線があることを望んでいる。
ただし、企業が提案する規制計画は外部の検査を受ける必要もあります。厳格な介入閾値は通常の研究開発活動を保護することができますが、定量化された基準にまだ達していない一部の重大なリスクが監督を開始することを困難にする可能性もあります。独立した評価は透明性を高めることができますが、評価機関の独立性、専門的能力、情報アクセス権も最終的な効果に影響します。
したがって、この法案の核心は、単に AI 企業に安全性テストの実施を義務付けることではなく、高度な AI のリスクを誰が評価するのか、政府が介入するのに十分なリスクはどのレベルなのか、モデルの公開や使用を停止するために政府はどのような手順を踏む必要があるのかという 3 つの問題を明確にすることです。
関連する計画が最終的に立法プロセスに入れば、米国の高度な AI の監督は、企業の自主的な取り組みや分散型の安全政策から、統一された法的基準を備えた監督メカニズムへとさらに移行する可能性があります。しかし、草案が正式に提出され、議会で検討されて法律となるまでは、依然としてアンスロピックが提案した政策案にすぎず、米国が新たなAI安全規制制度を確立したとみなすことはできない。
コメント