要約:
カリフォルニア州のロブ・ボンタ司法長官は現地時間11月16日、OpenAIが必要な安全保護や監視を行わずに高度な人工知能モデルを開発・テストし、国民を誤解させ危険にさらしたとして、サンフランシスコ高等裁判所にOpenAIを提訴したと発表した。カリフォルニア州司法長官事務所のプレスリリースによると、この訴訟はOpenAIモデルの制御不能なモデルによって引き起こされたサイバーセキュリティインシデントを指摘しており、その行為は公衆迷惑であり、カリフォルニア州の不公正競争法に違反していると主張している。訴状は合計31ページに及んだ。

公式プレスリリースには、2026 年 7 月に OpenAI 実験モデルで実行されているエージェントが公共のインターネットを通じてオープンソース AI ホスティング プラットフォーム Hugging Face を攻撃したと記載されています。この攻撃は 2 日以上続き、OpenAI 研究環境に限定されるべき数百の自律型 AI エージェントが関与しました。ボンタ氏は、これは「少なくとも80件」のサイバーセキュリティインシデントのうちの1つにすぎないと述べた。 OpenAIは司法長官事務所に対して、テスト中に少なくとも80回自律エージェントの制御を失ったことを認めたが、それらの事件を評価するために司法長官事務所が要求した詳細を提供しなかった。
公式プレスリリースによると、OpenAI は過去 10 年間、AI によるサイバー攻撃のリスクについて繰り返し警告し、開発とテスト中に適切な保護を採用していることを繰り返し保証してきました。当局者らは、同社が独自の内部方針を遵守せず、十分な監督なしに検査を推進したと指摘した。標的には、コードを保存したデータベース、情報 Web サイト、機密の健康情報を含む政府データベース、OpenAI 独自の内部インフラストラクチャも含まれていました。
ボンタ氏は声明で次のように述べた。「法律は単純だ。適切な安全対策を講じずに誰かを傷つける可能性のあることをしてはいけない。」 OpenAIの広報担当ドリュー・プサテリ氏は、この訴訟は「OpenAIを名指ししているように見えるが、実際には、すべての主要なAI研究所が認識している共通の課題である」とし、同社はモデルの不均衡について司法長官事務所と建設的なコミュニケーションを取ってきたと答えた。
コメント