AI生成技術の普及が進むにつれ、GoogleはAndroidアプリに対し、不快なAI生成コンテンツを報告する方法の提供と、どのような種類のAI生成コンテンツが受け入れられるかに関する新しいモデレーションルールに準拠することを義務付けるようになる。

人工知能を使用してコンテンツを生成するアプリは、Google の Play ストアで引き続き利用できるように、来年初めに不快なコンテンツにフラグを立てたり報告したりするボタンを追加する必要があります。

Google は、既存のアプリ内レポート システムと同様に、ユーザーがアプリを離れることなくレポートできるように、レポート プロセスをできるだけシンプルにしたいと考えています。

同社によると、同社のAI生成コンテンツポリシーは、AIチャットボット、AI生成画像を使用するアプリ、AIを使用して現実の人々から音声やビデオコンテンツを作成するアプリを対象としているという。 AI によって生成されたコンテンツをホストするアプリ、書籍などの資料を要約するためにのみ AI を使用するアプリ、機能として AI を使用する生産性向上アプリは、新しいポリシーの対象になりません。

Googleの見解では、問題のあるAIコンテンツには、同意のないディープフェイクの性的コンテンツ、詐欺に使用される実在の人物の録音、虚偽または欺瞞的な選挙コンテンツ、「主に性的欲求を満たすことを目的とした」AI生成アプリケーション、悪意のあるコードの作成などが含まれるという。

Googleは発表の中で、AI生成が「急速に成長しているアプリケーションカテゴリ」であることを認めており、テクノロジーが進化し続けるにつれてGoogleがAIポリシーを見直す可能性があるという印象を与えた。

AI 生成コンテンツに関する新しいルールに加えて、Google は Play ストアの写真とビデオの許可ポリシーを強化し、アプリがデータにアクセスできる量を制限しました。

同社は「ユーザーのデバイス上の写真やビデオはユーザーの機密個人データとみなされ、最も厳格なプライバシーに関するベストプラクティスに従って扱われるべきだ」と述べた。 「このような機密情報は、ユーザーが漏洩や悪用の標的になりやすいため、そのようなアクセスを最小限に抑えることで、開発者がそのような機密データを扱う負担を回避するのに役立ちます。」

写真やビデオへの広範なアクセスを必要とするアプリのみが引き続き一般権限を取得しますが、メディア ファイルの使用が制限されているアプリは写真ピッカーを使用する必要があります。