芸術表現に人工知能を利用するクリエイターが増えるにつれ、コンテンツ制作における人工知能の関与の透明性を求める動きが広がっています。この問題を解決するために、TikTokは本日、クリエイターがAI生成コンテンツに注釈を付けられる新しいツールをリリースし、AI生成コンテンツに自動的に注釈を付ける他の方法のテストを開始すると発表した。

同社は、AIコンテンツは視聴者を混乱させたり誤解を与えたりする可能性があるため、AIタグの導入が必要だと考えていると述べた。もちろん、TikTokは合成メディアに関するポリシーを更新し、視聴者がビデオの詳細を明確にし、誤解を招く情報の拡散を防ぐために、リアルな画像、音声、ビデオ（ディープフェイクなど）を含む人工知能コンテンツにラベルを付けることを義務付けている。 TikTokのポリシーでは、本物そっくりの人工知能の未公開画像を削除することが認められている。

ただし、意図的にユーザーを誤解させるために AI が使用される極端な場合を除き、AI によって生成された一部のコンテンツは、本物に見えるか偽物に見えるかの間で揺れ動く可能性があります。この灰色の領域では、エンド ユーザーは通常、表示しているコンテンツが大幅に編集されているか、人工知能を使用して作成されているかを判断できるよう、より透明性を高く評価します。

TikTokは現在、クリエイターが合成メディアに関する既存のポリシーに準拠することを容易にするだけでなく、完全にAIを使用して生成されたコンテンツやAIによって大幅に編集された他のコンテンツにフラグを立てることもできる新しいツールを立ち上げた。クリエイターは動画をアップロードするときにこのツールを使用できるが、TikTokはクリエイターが過去の動画に戻ってタグを付け直すことを望んでいない。

クリエイターが新しいツールを使用すると、TikTokは動画のユーザー名の下に、クリエイターが動画をAI生成としてマークしたことを示すメッセージを表示する。ただし、TikTokは、既存の合成メディアポリシーに該当しない人工知能コンテンツにラベルを付けなかったクリエイターにペナルティを課すことはありません。

さらに、TikTokは人工知能コンテンツを自動的に検出してラベルを付ける方法を開発中であるとも述べた。今週、TikTokは「AI生成」ラベルのテストを開始し、最終的にはAIを使用して編集または作成されたと検出されたコンテンツに適用される予定だ。

同社は、自社のテクノロジーがAIコンテンツの可能性をどのように探索するかについての具体的な詳細を明らかにすることを拒否し、その詳細を共有することで悪意のある者がその検出機能を回避できる可能性があると指摘した。しかしTikTokは、さまざまなAI検出モデルをテストし、コンテンツ自体にAIタグを埋め込むことでプラットフォームがAIをより適切に検出できるようにすることを目的とした来歴パートナーシップを「評価」していると述べた。

ここ数カ月、OpenAI と Google の両方が独自の AI 検出機能を発表しており、大規模なプラットフォームでは AI にラベルを付けることが一般的になりつつあります。 Instagramは、人工知能を使用して作成または編集されたコンテンツを強調表示する機能にも取り組んでいるようだ。欧州連合は、偽情報と闘うため、プラットフォームに人工知能コンテンツにラベルを付けることを原則として推進している。

透明性を高めるため、TikTokは人工知能を使用するすべての特殊効果の名前も変更し、名前に「AI」と明記する予定だ。これは同社がこれまで開示を拒否してきた内容だ。実際、TikTokの「BoldGlamour」フィルターがユーザーの顔を変える優れた技術で話題になったとき、そのフィルターがAR（拡張現実技術）ではなくAIを使っているのではないかと疑う人もいた。しかし、TikTokは当時、その製品が人工知能であるかどうかについてのメディアの質問に応じることを拒否した。

新しいラベルの変更により、ユーザーはどの TikTok フィルターが AI を使用しているかを一目で判断できるようになりました。同社は、エフェクトハウスクリエイター向けの更新されたガイドラインでも同様のことを義務付けると述べた。

TikTokは、新しいAIタグを開発する際に、安全性諮問委員会や、さまざまなタイプのAIタグに対するユーザーの反応を研究したマサチューセッツ工科大学のデビッド・G・ランド博士を含む業界専門家と協議したと述べた。この目的のために、TikTok は「人工知能世代」という用語がさまざまな人々に広く理解されることを望んでいます。

TikTokは今後数週間で、ユーザーが人工知能をより深く理解できるよう、教育ビデオやその他のメディアリテラシーリソースも公開する予定だ。

これらのアップデートは、人工知能における透明性と責任あるイノベーションのためのベストプラクティスの業界規定である合成メディアに対するAIの責任ある実践に関するパートナーシップへの2月の参加など、メディアにおける人工知能に関するTikTokの他の取り組みに続くものだ。今年 8 月には、同社は非営利団体 Digital Moment と提携して、人工知能のオンライン開発に関する若者の意見を理解するためのラウンドテーブルを主催しました。

AI タグは本日から展開されますが、展開が完了するまですぐには表示されない場合があります。