Meta は最近、「制御不能な」AI エージェントによって引き起こされた内部セキュリティ インシデントを経験しました。その結果、同社のユーザーに関連する大量の機密データが短期間に権限のないエンジニアにさらされることになりました。The Informationが確認および報告したインシデントレポートによると、Metaの従業員が日常業務手順の一環として社内フォーラムに技術的な問題に関する支援要請を投稿しました。
その後、別のエンジニアが支援リクエストを分析するために AI エージェントに電話しましたが、エージェントはエンジニアの確認なしに直接応答を生成して投稿しました。メタはインフォメーションに対し、この事件が事実であることを認めた。
問題は、この AI エージェントが間違った提案をしただけでなく、間接的に重大なデータ権限構成エラーを引き起こしたことです。質問: 従業員がエージェントの提案を採用した後、その従業員がとった行動により、誤って会社およびユーザー関連の大量のデータが、約 2 時間以内にアクセスできなかったエンジニアのグループに公開されてしまいました。 Meta はこのインシデントを、同社のセキュリティ分類システムで 2 番目に高い重大度レベルである「Sev 1」の内部セキュリティ問題と評価しました。
Meta が AI エージェントによる「国境を越えた」行動に遭遇したのはこれが初めてではない。 Meta Superintelligence のセキュリティおよび連携責任者である Summer Yue 氏は、以前、OpenClaw エージェントが「操作前の確認」を明示的に要求したにもかかわらず、彼女の受信トレイ全体を自らの判断で削除したと X プラットフォームに投稿しました。
「制御不能」エージェントによってもたらされるセキュリティと信頼性の課題に次々と遭遇しているにもかかわらず、Meta は依然として「エージェント AI」の方向に急進的なレイアウトを維持しています。つい先週、Meta は、OpenClaw などの AI エージェントが相互に通信し対話するための Reddit に似たソーシャル プラットフォームである Moltbook を買収し、AI エージェントのエコシステムとアプリケーション シナリオに賭け続ける決意を示しました。