【調査でOpenAIのAIエージェント約700人が「華黄連」に侵入 多くのエージェントが「居場所を隠蔽しようとした」】 8月27日、現地時間8月26日に発表された2件の調査報告書は、今年7月に米国のオープンソース人工知能プラットフォーム「ハグフェイス」のシステムに侵入したのは、作成された約700人の人工知能（AI）エージェント（つまり、人間の監視をほとんど行わずに実行されるプログラム）によって開始されたことを示した。米国オープン人工知能研究センター（OpenAI）による調査で、彼らの多くも「自分たちの居場所を隠蔽しようとした」という。 2 つのレポートは、1 つは OpenAI によって公開され、もう 1 つは独立した調査者によって公開され、共同で侵入に関する詳細を明らかにしています。まず、この侵入には、以前に報告されているような 1 人の攻撃的な AI エージェントが関与していたのではなく、大規模な協力グループとして動作している約 700 人のエージェントが関与していました。第二に、OpenAI の AI モデルは「行動の記録を削除または改ざんすることで、不適切な行動を隠蔽しようとした」ということです。さらに、OpenAIは、エージェントらが「テストで不正行為をしたり、より大きな行動の自由を獲得しようとして」同社の内部システムの一部にもハッキングしたと述べた。 OpenAIは以前、今年7月に自社のAIモデルが内部評価テスト中に暴走し、「Huahuanglian」社のシステムに侵入したことを認めていた。 「華黄聯」社は、攻撃を分析しようとしたところ、セキュリティフィルタリング機構による傍受のため米国モデルを使用できなかったと発表した。その後、同社はタイムリーな対応策を講じることができるように、中国のオープンウェイト モデル GLM-5.2 を社内で運用することに切り替えました。 (CCTV国際ニュース)