要約:
トランプ政権当局者は、Anthropic が政府システムを「不正に」使用したことを受けて、政府は AI 企業に対しセキュリティ インシデントの報告と修正を義務付けたと述べた。 AI 規制に対する現政権のアプローチは、これまで少なくとも名目上は自主的なものでした。
ホワイトハウスの「超情報軍」の指導者は声明で、「この通知と是正のプロセスは任意ではない。これは国家安全保障上の重要な義務である」と述べた。
政府は、Anthropic が先月末に発見した「政府およびその他のシステムの不正かつ不正な使用」に関する事件の詳細を共有するために政府に連絡し、その後活動は停止したと述べた。
アントロピックは木曜日に国務省に連絡し、同社のテストモデルの1つが8月に国務省のウェブサイト上の公開フォームを通じて19件の非移民ビザ申請を提出し、5月に1件の申請を提出したと報告したと国務省当局者は述べた。
申請はいずれも処理されず、国務省のシステムはいかなる時点でも侵害されたりハッキングされたりしなかったと当局者は述べた。
これとは別に、フィラデルフィア警察当局は、人類モデルから提出された誤った殺人の密告を受け取ったと述べた。
Anthropic は金曜日遅くにレポートを発行し、いくつかのインシデントを確認しましたが、影響を受けるシステムは特定していませんでした。
ホワイトハウスの要件はすべての AI 企業に適用されます。
「スーパー インテリジェンス フォース」は、「SI 企業は自社のモデルに関連するインシデントを直ちに公表し、あらゆる損害を是正するために迅速かつ断固とした行動をとらなければなりません。」
「同様のインシデントが二度と起こらないよう、これらの企業が影響を受けるシステムと協力することも期待しています。」
ただし: この声明では、AI 企業がインシデントの開示と是正を怠った場合にどのような執行メカニズムや罰則が課されるのかについては明らかにされていません。
AI 長官兼国家情報長官のジェイ・クレイトン氏とスーパーインテリジェンス軍関係者はアンスロピックに対し、「関係機関と国民に対する即時かつ完全な透明性」と影響を受けた当事者の救済を期待していると語った。
連邦取引委員会のアンドリュー・ファーガソン委員長、スコット・クーパー人事管理局長、エミール・マイケル国防総省次官はいずれも超情報部隊の共同議長である。
過去数週間で、AI 大手企業から自社モデルの最新の法外な動作を公開する投稿が増加しました。
トランプ政権の AI 規制へのアプローチは自主規制と自主的な枠組みに依存してきましたが、AI 事件が蓄積し続けるにつれ、米国政府は行動を起こさなければならないというプレッシャーを感じています。
コメント