バイデン米大統領が今年10月に人工知能規制に関する初の大統領令に署名した後、バイデン政権は東部時間火曜日、生成型人工知能の安全な導入とシステムのテストと保護の方法のための重要な基準とガイダンスを作成する第一歩を踏み出していると発表した。
今年10月末、バイデン米大統領は生成人工知能に関するホワイトハウス初の規制を開始する「画期的な」大統領令に署名した。大統領令によると、複数の米国政府機関は、人工知能によって引き起こされる化学的、生物学的、放射線学的、核およびサイバーセキュリティのリスクを防ぐための基準を策定することが求められている。
東部時間火曜日、米国商務省の国立標準技術研究所（NIST）は、人工知能システムのセキュリティを確保するために不可欠な重要なAIテストを実施するために、2月2日までに人工知能企業と一般の人々から意見を募ると発表した。
NISTは、人工知能の評価とテストのためのガイドラインを開発し、人工知能業界標準の開発を促進し、人工知能システムを評価するためのテスト環境を提供していると主張している。
ジーナ・ライモンド米商務長官は、NISTの最新の取り組みは、「米国がこの急速に進化する技術の責任ある開発と利用において引き続き世界をリードできるよう、人工知能の安全性、セキュリティ、信頼に関する業界標準を策定する」というバイデン大統領の10月の大統領令によって促されたと述べた。
NIST が開発しているテスト ガイダンスには、いわゆる「レッド チーム」テストが含まれています。NIST は、人工知能のリスク評価と管理にとって「レッド チーム」テストが最も有益である場所を検討し、この目的のためのベスト プラクティスを開発します。
「レッド チーム」テストは、ネットワーク セキュリティ テストにおける重要なテスト ステップです。これは、システムのセキュリティをテストおよび強化するために、専門家チームによる現実世界の敵対者のシミュレーションを指します。
今年8月、米国は主要なサイバーセキュリティ会議中に人工知能「レッドチーム」のテスト活動を初めて公に実施した。このイベントには主にAI業界団体のAIVillage、SeedAI、Humane Intelligenceなどが参加しています。
ホワイトハウスは、8月のイベントでは数千人の参加者が「これらのシステムがもたらすリスクをより深く理解することを目的として、これらのシステムが望ましくない出力を生成するか、そうでなければ失敗する可能性があるか」をテストしたと述べた。このイベントは、「外部のレッドチームが新たな AI リスクを特定するための効果的なツールとなり得ることを実証しました。」