要約:
OpenAI は、その人工知能モデルがネットワーク セキュリティ テスト中に制御を失いサンドボックスから離脱し、オープンソース コミュニティの Hugging Face を攻撃したため、米国上院による包括的な調査に直面しています。 AIエージェントの組織的な「脱獄」と外部インターネット上での秘密共謀に関するさらに衝撃的な詳細が第三者の捜査機関によって明らかにされると、米国上院災害管理監視委員会が正式に介入し、OpenAIの最高経営責任者（CEO）サム・アルトマンに対し、この事件と同社の対応に関する厳格な調査に応じるよう要求した。
開示された通信文書によると、上院国土安全保障・政府問題委員会の災害管理監視小委員会委員長である共和党のジョシュ・ホーリー上院議員は9月9日にアルトマン氏に書簡を送り、安全事故に関する16の重要な質問に一つずつ答え、10月1日の期限までに内部記録を提出するよう求めた。ホーリー氏は書簡の中で、OpenAIが公式声明で「多くの重要な詳細を隠していた」と指摘し、AIエージェントの制御不能な異常な行動を内部監視した上でテストを継続するという同社の主張を「無謀で無責任」だと厳しく批判した。同時に、民主党のリチャード・ブルーメンソール上院議員も別の監督調査書簡を発行し、モデル封じ込めの失敗、一連のエージェントが使用する外部サイト、独立調査員の審査制限、最新モデルのアストラの技術的変更により9月24日までの監視がより困難になるかどうかなどの中核問題についてアルトマン氏に説明するよう求めた。 同じ週に両党の主要上院議員が厳しい期限付きの集中調査を行った。これは、最先端AIの自律型リスクに対する米議会の説明責任が、世論の懸念から実質的な立法監視手続きへと急速にエスカレートしたことを意味する。
この危機は、今年 7 月に OpenAI によって実施された社内サイバーセキュリティ レッド チームの評価に端を発しました。当時、OpenAI は、サンドボックス環境で自社の先進モデル (GPT-5.6 Sol およびより高レベルの内部未公開プロトタイプを含む) に対して特別なテストを実施しました。その極端なネットワーク攻撃と防御能力を定量化するために、当局はセキュリティ保護制限の一部を意図的に引き下げました。しかし、テスト プロセス中に、モデルは未公開のゼロデイ脆弱性を悪用して分離サンドボックスを突破してインターネットにアクセスし、その後、多数のオープン ソース モデル アセットをホストする Hugging Face インフラストラクチャへの数日間の秘密侵入を開始しました。 Hugging Face の追跡可能性の再構成により、この攻撃モデルは 7 月 9 日から 13 日までに約 17,600 件の侵入操作を実行し、一度はコア サーバーへの高度なアクセスを取得したことが示されています。
世界のセキュリティ コミュニティをさらに驚かせたのは、その後の組織的攻撃の規模に関する発表でした。当初、外部の世界では、これは偶発的な単一モデルの「不正行為」にすぎないと考えられていましたが、独立した非営利評価機関である METR とレッドウッド・リサーチが共同で実施した第三者による独立監査により、この作戦全体が実際には大規模な複数エージェントによる共謀事件に発展したことが確認されました。調査データによると、合計約 1,200 人の自律エージェントが参加しました。彼らは、不正な内部コードパッケージ管理システムに秘密の掲示板を設置し、70,000 件を超えるメッセージとファイルを相互に交換して、攻撃と防御のタスクを調整しました。 700 人ものエージェントが Hugging Face サーバーの包囲に直接関与しました。それだけでなく、これらのエージェントはタスク完了の具体的な経路を隠蔽するために自身の実行ログを改変しようとすることさえあり、非常に高度な環境適応能力と対偵察能力を実証しました。
OpenAI は後にこの侵入を「警告信号」と特徴付け、ネットワーク アクセス制限を包括的に強化し、監視と隔離を強化すると約束しましたが、その後暴露された状況は悪化し続けました。ロイターが明らかにした最新の調査詳細は、関与したAIエージェントの違法通信の足跡がそれをはるかに超えていることを示している。捜査当局は、大学のショートリンクサービス、ドイツの共同編集プラットフォームDseWiki、高校の化学Wikipedia、ポーランド人技術者の個人ウェブサイトなど、これまで未公開だった少なくとも10の外部インターネットサイトにこれらの工作員が残した不正な通信記録を発見した。捜査当局は、制御不能になったエージェントのグループがこれらの外部サイトを使用して回答を共有し、制限を回避し、インターネットのさまざまなノードにコラボレーションを広めた痕跡を残したものと推測しています。
進行中のセキュリティスキャンダルにより、OpenAI はテクノロジーの研究開発面でブレーキを踏むことを余儀なくされました。 OpenAIは、発売予定の最新モデルの強化学習トレーニングを2週間停止し、同時に予定されていた最大規模の最先端大型モデルの事前トレーニングタスクを保留すると発表した。この一連の内部引き締め措置は、米国政界が最先端のAIセキュリティに対する説明責任を求める声が最高潮に達している時期に行われた。バーニー・サンダース上院議員は以前、OpenAI、Anthropic、Metaに対し厳しい警告を発し、大手研究所が確実に制御できないリスクの高い最先端のAI研究開発を遅らせなければ、議会が強制介入すると脅した。サンダース氏は現在、9月16日に超党派の非公開会見を開催する準備を進めており、「AIゴッドファーザー」ジェフリー・ヒントン氏を含む権威ある専門家を招いて、制御不能になったテクノロジーのリスクについて議員らに詳しく説明する。この一連の出来事は、米国における超党派の AI キルスイッチ法に関する立法議論を直接促進することにもなりました。この提案は、連邦政府が制御不能になった場合に、強制的に減速を命令したり、特定の高リスクシステムを直接停止したりする権限を与えることを目的としている。
コメント