要約:
議員カリフォルニア州民主党のロー・カンナ氏は、最先端のAI技術に対してこれまでで最も厳格な連邦規制の枠組みを確立したいと考え、包括的な人工知能規制法案を議会に提出しようとしている。この提案では、厳格責任制度の導入を求めているだけでなく、連邦政府が完全な安全・セキュリティシステムを確立するまで、「再帰的自己改善」機能を備えた人工知能システムの使用を禁止することも計画されている。
この法案は「AI に対する人間の制御法」と名付けられています。この法案の提出の背景には、米国の技術界や政策界で高度な人工知能の潜在的なリスクに対する懸念が高まり続けている時期がある。近年、多くのAI企業幹部が、一部の人工知能システムが将来人間の制御能力を超える可能性があると公に警告しているが、議会はまだ包括的な規制計画を策定していない。
ロ・カナ氏はインタビューで、人工知能が悪用されるリスクがあるだけでなく、制御不能になるリスクももたらす可能性があると述べた。関連技術の発展が文明レベルでの安全保障問題に触れているため、人類はこれら 2 つの種類の問題を真剣に受け止める必要があると彼は考えています。
法案の内容によれば、いわゆる「再帰的自己改善型」人工知能は禁止されることになる。このタイプのシステムは、自らの機能を自律的に改善したり、中核となる目標、制御メカニズム、およびシャットダウン ルールを変更したりできる人工知能モデルとして定義されます。
提案で要求されているように、連邦安全規則が確立されるまで、関連する活動は許可されません。将来的に開設する場合でも、専門の規制当局の承認が必要となる。
この法案では、OpenAI、Anthropic、Google DeepMind、xAI などの最先端モデルを開発する企業を監督する新しい連邦人工知能規制機関の設立も計画されています。
この機関は、AI 安全規制の策定、モデルのトレーニングと展開のためのライセンス システムの確立、最先端のモデル監査の実施、継続的なテストと効果的な人間による制御のための基準の開発など、複数の責任を負うことになります。
同時に、新しい機関は、隔離されたテスト環境、ネットワーク隔離対策、緊急シャットダウン システム、モデルが実験環境から離れてオープンなインターネット運用に入るのを防ぐための制御メカニズムなど、一連の技術的セキュリティ要件を策定する責任も負います。
この計画では、最先端のモデル開発に取り組むすべての研究所は独立した監査を受ける必要があります。監査役は関係機関に長期滞在し、企業経営陣に情報を渡すのではなく、規制当局に直接報告する。
この法案では、規制モデル自体に加えて、リスクの高い人工知能開発活動の監督をさらに強化するために、一部の高度な AI チップとコンピューティング能力リソースも監督範囲に組み込むことも計画されています。
この法案は賠償責任制度に関して明らかに厳しい姿勢をとっている。
この提案では、人工知能企業に対し、将来の損害を補償する能力を確保するために、高度なモデルをリリースする前に大規模賠償責任保険に加入することが求められています。
同時に、この法案では刑事責任の仕組みも導入されています。故意にセキュリティ保護をオフにしたり、緊急停止を無効にしたり、ログ記録を改ざんしたり、隔離システムを侵害したり、故意に許可なくモデルを展開したりした従業員は、刑事罰に直面する可能性があります。
さらに懸念されるのは、この法案が「人道を危険にさらす行為」に関する刑事責任規定も設けることを意図していることだ。特定の人工知能システムが民間人に大規模な危害を引き起こした場合、関連する配備行為により、より深刻な法的結果が引き起こされる可能性があります。
Rokana 氏は、この法案は現在最も包括的な人工知能の安全規制提案の 1 つであると述べました。同氏は、法案の内容は大手テクノロジー企業の意見に基づいて策定されたものではなく、主に人工知能の安全性研究グループとの長期にわたる交流から得られたものであると強調した。
同時に、カンナ氏は米国政府に対し、中国との強制力のある安全保障協定の締結や、将来の危険な人工知能システムの拡散リスクを軽減するための検証、レビュー、管理メカニズムの確立など、国際レベルでの人工知能の安全保障協力を促進するよう求めた。
アナリストらは、この提案は、最先端の人工知能は企業の自主規制だけに頼るべきではなく、医薬品規制制度と同様の政府の監督メカニズムを確立する必要があるという米国議会内の声の高まりを表していると考えている。
しかし、今後この法案がスムーズに通過できるかどうかについては依然として大きな不確実性が残っている。支持者は、規制によって制御不能のリスクを軽減できると信じているが、反対者は、規制が厳しすぎると世界的な人工知能競争における米国の革新能力が弱まる可能性があると懸念している。
それにもかかわらず、人工知能の能力が向上し続けるにつれて、「テクノロジーが制御不能になる前に人間が境界線を設定すべきかどうか」をめぐる議論が正式に米国の立法レベルに入っています。
コメント