要約:
A few weeks before the SpaceX artificial intelligence department launched Grok Bot, a personal AI agent product, in August, engineers at Cursor discovered a potential vulnerability.当時、SpaceX は AI コードのスタートアップである Cursor を買収しており、Grok Bot は Cursor によって開発されました。開発プロセス中、Cursor のすべての従業員は、テストや日常業務にこのツールを広範囲に使用しました。
7 月下旬、技術者らは、Cursor 社が内部テストで生成した、顧客、サプライヤー、ビジネス パートナーの機密情報が含まれる可能性のあるデータを SpaceX の人工知能部門に送信した可能性があると懸念を表明しました。メディアが確認した内部通信によると、カーソル社の弁護士は、同社がモデルトレーニングにデータを使用していることを外部の者が知ると、「信頼の深刻な危機」を引き起こす可能性があると警告した。
メディアとプロジェクトに詳しい関係者 2 人が精査した内部文書によると、Cursor は直ちに内部調査を開始し、現在 SpaceX SI として知られる SpaceX の人工知能部門に送信された機密データがあれば、それを解明するための内部調査を開始しました。この内部調査の結論は明らかではありませんが、同社はその後のモデルトレーニングに従業員の使用によって生成されたデータが組み込まれないようにするための措置を講じました。
この事件は、Grok Bot などのエージェント ツールの人気が高まるにつれて、AI 研究開発企業が直面する課題を浮き彫りにしました。このタイプのエージェントは、より高い権限が与えられるように設計されており、ユーザーのコンピュータ上のさまざまなファイルやアプリケーションを横断してタスクを自律的に完了できます。
しかし、この高い自由度は、機密情報をトレーニング用のモデルに誤って提供してしまうなど、新たなセキュリティ リスクをもたらします。一般に、大手 AI 企業は、Gmail や Google Cloud Disk などのインターネット ツールから取得したデータをモデルのトレーニングに使用しないと述べています。たとえば、Grok Bot の利用規約の中で、SpaceX SI は、同社がモデルのトレーニングに Google Cloud Disk データを使用しないと述べており、ユーザーはこの目的で自分のデータを共有することを拒否することを選択できます。
The Grok Bot-related data investigation is not the only data security incident Cursor has encountered. Internal communications reviewed by the media showed that this summer, company employees accidentally leaked some customer information through a publicly accessible website built for internal use.
SpaceX SI did not respond to a request for comment.
SpaceX が 8 月中旬に 600 億ドルで Cursor の買収を完了する前から、Cursor はビジネスを拡大しており、もはやコーディング ツールに限定されませんでした。 After the acquisition is completed, Grok Bot, an all-weather AI collaboration assistant that can handle various tasks, has become SpaceX SI’s core product in competing for the lucrative enterprise-level AI tool market.
Two people familiar with the matter revealed that in order to optimize the early version of Grok Bot, Cursor arranged for the company, SpaceX SI employees, and external individuals and companies to test the product, while collecting user behavior records of using the agent. Cursor can use this data to train the AI model, allowing the model to learn how the agent performs tasks, including the operations performed and the information retrieved during the task.
Romain Ugarte, the former head of growth at Cursor, mentioned in a podcast interview that around June, Cursor’s internal employees were the first to use Grok Bot, then codenamed Sand. The product quickly became popular within the company, with employees using it to handle sales, recruitment, research and other tasks. They often authorized the software to access the company's systems, allowing them to work independently. People familiar with the matter said that this means that employees will use the agent in scenarios where they are interacting with external customers and interviewing potential candidates, potentially exposing it to sensitive information in sales conversations, customer files, and recruitment communications.
しかし、Cursor が Grok Bot をリリースする直前の 7 月に、一部のエンジニアは Slack のインシデント報告チャネルで警告しました。Sand の内部使用シナリオから同社が収集したトレーニング データには機密情報が含まれている可能性があり、このデータのバッチは SpaceX SI に転送された可能性があります。
調査の一環として、Cursor は内部コミュニケーションとこの問題に詳しい関係者に基づいて、トレーニング データ セットに含まれるユーザーの範囲をレビューしました。この件に詳しい関係者によると、カーソル社の従業員の一部は個人メールを使用してサンドにログインしたため、同社がそうしたユーザーを特定し、その後のトレーニングからそのデータを排除することが困難になったという。
この目的のために、Cursor は制限を設けました。従業員は会社の電子メールを使用して Sand にログインする必要があり、今後のトレーニングには Cursor の従業員が生成したデータを含めないことを決定しました。
カーソルの弁護士は同社の Slack チャンネルに次のように書いています。「法的な観点から見ると、Sand は一般的なツールであり、そのデータセットには顧客、パートナー、サプライヤーなどに関する機密情報が含まれています。厳密に言えば、私たちにはモデルのトレーニングにこのデータを使用する法的権限はありません。」
Cursor がユーザー データの誤った処理により混乱を一掃しなければならなかったのはこれが初めてではありません。
メディアが調査した内部通信により、これまで報道されていなかった事件が今年初めに発生したことがわかりました。カーソルの営業担当者とマーケティング担当者が誤って顧客情報をインターネット上に公開したというものです。問題は、Web サイト開発プラットフォーム Vercel に基づいてチームが構築した Web サイトにありました。この Web サイトは、営業およびマーケティング チームが既存の顧客および潜在的な顧客との関係を維持するために使用していました。
文書には、Web サイトの 1 つが Verizon との顧客ドッキングを管理するために使用されていることが示されています。この Web サイトには、Verizon の技術管理の一部の組織図が含まれており、Verizon の社内 Cursor ツールの数人のコア ユーザー、製品の消費量、および各ユーザーの電子メール アドレスがリストされています。
カーソルの内部通信記録によると、Verizon 関連の Web サイトにはパスワードが設定されていますが、そのパスワードはすべての顧客情報とともに基礎となるコードに直接書き込まれていました。コードを閲覧するインターネット ユーザーは誰でも、パスワードと顧客情報を取得できます。
内部通信によると、同社が Bosch や Coupa などの他社からのデータに関しても同様の問題に遭遇していることがわかりました。この脆弱性を発見した後、Cursor のエンジニアは緊急に関連する Web サイトをオフラインにしました。彼らは、この終わりのない問題を議論するための専用の Slack チャンネルに、「多数の GTM Web サイトで顧客/内部データが漏洩した」という長い名前さえ付けました (GTM は Go to Market の略です)。
ボッシュは問い合わせをカーソルに照会したが、クーパはコメントを拒否し、ベライゾンは取材要請に応じず、ヴェルセルもコメントを拒否した。
Cursor が SpaceX SI に統合されるずっと前に、航空宇宙会社の AI 部門は同様のデータ セキュリティ インシデントに遭遇していました。 2025 年 3 月、SpaceX SI の従業員が誤ってテスト スクリプトをパブリック GitHub コード リポジトリにアップロードし、Grok アプリケーション プログラム インターフェイス キーが漏洩しました。部外者はこのキーを使用して、公開されていない xAI モデルにアクセスできます。
この夏、研究者は、SpaceX の開発者ツール Grok Build が完全な Git コード リポジトリを SpaceX の Google Cloud Storage にアップロードし、開発者が公開するつもりのなかった独自のソース コードや ID 認証情報が漏洩する可能性があることを発見しました。これに応じて、xAI はウェアハウスのアップロード機能を閉鎖し、ツールをオープンソースにしました。イーロン・マスクは X プラットフォームに次のように投稿しました。「SpaceX AI に以前にアップロードされたすべてのユーザー データは完全かつ完全に削除されます。」
コメント