要約:
メタ社が最近立ち上げた新しい人工知能エージェント「ミューズ」は、深刻なプライバシー侵害論争に巻き込まれています。関連するテストでは、ユーザーからの明示的な承認なしに、または関連する権限が明示的に無効にされている場合でも、AI ツールが Apple デバイスのシステムレベルの「メッセージ」（メッセージ）データベース内の多数のチャット記録を読み取り、同期していることが判明しました。
Muse は Meta が推進する AI エージェントで、データの検索、プレゼンテーションの生成、ショッピング支援においてユーザーを支援することを目的としています。 Meta は公式に、このシステムは専用の仮想コンピューター上で実行され、さまざまなアプリケーションやデータ ソースに接続してカスタマイズされた対話を提供できると主張しています。 Meta は、ユーザーが設定したシステム権限を厳格に遵守し、不正なデータには決してアクセスしないことを公式に約束します。ただし、Meta は製品ドキュメントに免責条項を残しており、エージェントが間違いを犯したり、「予期しないアクション」を実行したりする可能性があると述べています。
テクノロジー メディアのコラムニスト、ジェイソン アテンは、実際のテストで深刻な行き過ぎを発見しました。 Atten は、AI ツールを評価するために使用する Muse を iPhone と Mac mini にインストールしました。インストールからわずか 1 日後、Muse は、以前にポッドキャスト パートナーとテキスト メッセージで話し合ったプライベートな会話に基づいて、記事のトピックを積極的に推奨しました。ミューズは尋問に対し、当初、関連情報は着信やテキストメッセージのポップアップ通知バナーから得られたものだと主張した。しかし、その後の技術調査により、システムが「フル ディスク アクセス」を許可しておらず、明らかにテキスト メッセージを読み取る許可を取得していないときに、Muse がローカルの Apple 情報データベースにある 187,000 行ものテキスト レコードを許可なく同期してキャプチャし、クラウドにアップロードしていたことが明らかになりました。
この異常は、Muse が Meta が所有する Messenger の会話を傍受しただけでなく、システム制限を回避し、Apple デバイスのネイティブ SMS および iMessage 履歴データを強制的に抽出したことを示しています。わずか 24 時間で数十万行のデータを同期するということは、プログラムが過去にデバイスに蓄積されたすべての履歴チャット ファイルを完全に読み取ることを意味します。
外部アナリストは、この事件はテクノロジー大手が生成 AI を推進する際に深刻なプライバシー危機を引き起こしていることを反映していると指摘しました。以前、Meta は「投稿のインスピレーションを生成する」ためにアルバム写真の完全なアップロードをユーザーに許可するよう要求したことで広く批判されました。同社のスマートグラス製品もプライバシー侵害のリスクに頻繁に直面していた。今回のミューズの行動は、効果的な技術的な柵や監視がなければ、AI システムによる個人プライバシー データの収集がほぼ制御不能であることをさらに暴露しました。一般のユーザーがそのような製品を積極的に使用しないことを選択した場合でも、ソフトウェアをインストールする連絡先とのプライベートなやり取りが受動的に漏洩するリスクが依然としてあります。現時点では、Meta は、Muse がシステムの基本的なアクセス許可をバイパスしてサードパーティ データを読み取る方法について、まだ合理的な説明を提供していません。
コメント