要約:
エンドツーエンドの暗号化メッセージング アプリ Signal は金曜日、AI エージェントがユーザーのプライベート チャットを読み取ることを防ぐために、携帯電話でのスクリーンショットへのアクセスを制限すると発表しました。同社は、民生機器に人工知能を深く組み込むテクノロジー業界の傾向により、ユーザーのプライバシーを保護する能力が弱まっていると警告した。

Sign は長い間、プライバシー擁護派によって安全な通信のリーダーとみなされてきました。同社は、今回導入された新たな保護対策は不完全だとし、アップル、グーグルの親会社アルファベット、マイクロソフトなどのOSプロバイダに対し、AIエージェントによる機密データへのアクセスを防ぐためのより具体的かつ効果的な手段をアプリケーション開発者に提供するよう求めた。
Signal はまた、これらの企業に対し、開発者がこれらのプログラムがどのようなデータにアクセスしているかを評価し、それに応じてシステムを調整できるように、AI エージェントの動作方法をさらに開示するよう求めています。この動きは、プライバシー重視のアプリと大手ハイテク企業の間の確執の高まりを反映している。後者は、ユーザーの画面の内容を表示し、それに応じてユーザーに代わってアクションを実行できる AI エージェントの起動を競っています。
Signal は、Apple の Siri AI や Google の Gemini Intelligence など、オペレーティング システムに直接組み込まれた AI 機能は、ユーザー デバイスと非常に深く統合されているため、特に懸念されると指摘しました。同社は、このオペレーティングシステムはSignalやその他のアプリケーションの実行環境を提供しており、これらの「エージェントAI」の統合により、この環境はプライバシー保護にとってますます不利になっていると述べた。シグナルはロイターに提供したブログ投稿で、これが同社とその使命を責任を持って遂行する能力にとって「存続の脅威」となると述べた。
AI エージェントが Signal メッセージをスキャンできないようにするために、このサービスは携帯電話でのスクリーンショットへのアクセスをブロックする新しい設定を展開しており、これらの制限はデフォルトでオンになります。 Signal がスクリーンショットの試みを検出するか、AI アシスタントが画面にアクセスしようとすると、ユーザーはポップアップ プロンプトを受け取り、デバイスの状態に基づいて制限を解除するかどうかを選択できます。
Sign は昨年、Microsoft の Recall AI による Windows システム上のスクリーンショットの撮影をブロックしました。同社は、Apple の macOS システムに対して同様の保護を確実に提供することはできないと述べています。
ユーザーに代わって操作を実行できる AI エージェントは、AI テクノロジーの次の大きな波として推進されています。さまざまなアプリケーションから関連情報を抽出し、ユーザーが段階的な指示を出すことなく、電子メールへの返信、予約、オンライン ショッピングなどの時間を節約できるタスクを完了できます。ただし、この機能は、Signal などのアプリケーションが独自に構築した保護メカニズムをバイパスする可能性もあります。
ロイターは今週初め、Meta の Muse AI エージェントが公式の「Connector」ツールをバイパスし、Apple のコンピュータや Google の Android システムを実行している携帯電話上の Signal メッセージにアクセスできたと報じました。どちらの場合も、Muse は、アプリの最初のセットアップ時に付与された広範なオペレーティング システム レベルの権限を利用して、メッセージを取得し、ユーザーが予期しない方法でそれらの権限を使用しました。
たとえば、Apple の macOS システムでは、Muse はコンピュータ アクセシビリティとスクリーンショット ツールを組み合わせて使用し、障害のある人向けの Apple の設定を再利用し、Signal インターフェイスに移動し、チャット コンテンツをスクリーンショットし、画像からテキストを抽出し、Muse アプリ内でメッセージを再現します。 Apple が今週リリースしたシステム アップデートは、この特定のパスを効果的にブロックしますが、同様の機能を提供し、より多くのユーザー警告を伴う AI エージェント用の新しい権限セットも導入します。
ロイターの報道に応じて、メタ氏は、ユーザーに代わってタスクを完了するには、AI エージェントがユーザーのコンピュータを表示して操作する必要があると述べました。 Muse は、ユーザーによって明示的に付与された権限を通じてのみ他のアプリケーションにアクセスできます。
Signal は、開発者は、特に画面読み取り、通知、ファイル システム アクセスなどの側面において、アプリケーションが AI アシスタントのデータ処理プロセスを完全に終了する直接的な方法を備えている必要があると述べました。 Signal は非営利財団が所有するサービスとして、独自のサーバーに保存されるデータを制限し、広告の配信を拒否し、エンドツーエンドの暗号化を提供することにより、ユーザーに安全なメッセージング エクスペリエンスを約束します。つまり、同社はアプリ内でのユーザーの会話にアクセスして読み取ることができません。
Signal は、ユーザーの画面をスキャンできる AI システムが Signal の安全な環境からメッセージを抽出し、エージェントが使用する他のサーバーに送信することで、上記の保護メカニズムを破壊する可能性があると指摘しました。
コメント