要約:
人工知能企業 Anthropic は最近、高度な AI モデルに対する連邦レベルの規制枠組みを確立することを目的として、人工知能安全法案の草案を非公開で米国議員に提出しました。この提案によると、AIモデルに50人以上の死亡や重傷を引き起こす、あるいは10億ドルを超える物的損害を引き起こす可能性のある、予見可能かつ差し迫った壊滅的リスクがあると判断された場合、その公開と使用がブロックされる可能性があるという。
開示された情報によると、この法案はすべての人工知能アプリケーションを対象とするわけではなく、最も先進的な「最先端モデル」に焦点を当てています。この提案は介入の明確な基準を設定しており、極度のリスク状況にのみ規制当局が法的手続きを開始してモデルの導入を制限することができる。
草案に記載されているリスクは主に 3 つの分野に焦点を当てています。1 つは生物兵器の作成または放出の幇助、開発者の管理から逃れたモデル、およびモデルによって参加または促進された大規模なサイバー攻撃です。これらの特定のシナリオからリスクが生じた場合にのみ、規制メカニズムが発動されます。
Anthropic が提案したリスク基準は、以前に米国カリフォルニア州で可決された上院法案 53 と類似していることは注目に値します。後者はまた、多数の死傷者や巨額の経済的損失を引き起こす可能性のある状況を「壊滅的リスク」と定義しています。
具体的な実施メカニズムに関しては、この法案は米国商務省によって登録および管理される独立した評価者システムを確立することを提案しています。これらの評価機関または専門家は、最先端の AI モデルとその開発会社のセキュリティ評価を実施し、関連するモデルが重大なリスクをもたらすかどうかを判断する責任を負います。
協定案によれば、AI企業が評価機関に報酬を支払っている場合でも、その支払いが評価結果に直接関係しない限り、この提携は認められるという。しかし、この取り決めは、評価機関の独立性と客観性が困難に直面する可能性があると考えている一部の業界関係者の間で疑問を引き起こしている。
評価者は、モデルに差し迫った壊滅的なリスクがあると判断した場合、評価完了後 72 時間以内に米国商務省に報告する必要があります。その後、商務省はワシントンD.C.の連邦裁判所に対し、同モデルの発売や配備の一時停止を認めるよう裁判官に求める申し立てを行う可能性がある。
一部の規制計画とは異なり、Anthropic の提案では、行政機関にはモデルを一方的に停止する権限がないことが特に強調されています。草案設計では、最終的には連邦判事のみが一時停止命令を下すことができる。言い換えれば、どの政府部門も、司法手続きを回避して、AI モデルのオンライン化や使用を直接禁止することはできないのです。
Anthropic はこの法案の最終版の詳細を公表していないが、同社の広報担当者は草案が存在することを認め、その中心となるアイデアは今年初めに提案された「高度な人工知能フレームワーク」に由来していると述べた。このフレームワークは、最も強力な AI システムに対して、より厳格なテスト、透明性の向上、独立したサードパーティ評価メカニズムの導入を提唱しています。
人工知能の機能が向上し続けるにつれて、米国のテクノロジー業界と規制当局の間で AI の安全性問題をめぐる議論も激化しています。支持者たちは、Anthropic が提案した計画は、高リスク AI への政府介入に対する明確な手順と法的根拠を提供すると信じています。一方、批評家は、過度の介入閾値と業界の自己評価メカニズムへの依存により、将来的にはより複雑な人工知能リスクに完全に対応することが困難になる可能性があると考えています。
現在、この提案はまだ議論の段階にあり、検討のために正式に米国議会に提出されておらず、法的効力はありません。しかし、大手 AI 企業によって積極的に提案された最初の連邦規制計画の 1 つとして、その内容は米国における人工知能立法に関する将来の議論に重要な影響を与えることが期待されています。
コメント