実際の人間の声を模倣できる最新の AI 生成ツールは、印象的であると同時に憂慮すべきものでもあります。フィッシング詐欺から選挙介入まで、面白いアプリケーションや役に立つアプリケーションには、少なくとも 1 つは悪意のあるアプリケーションが存在します。今回、米国連邦取引委員会（FTC）も注目し、初めて行動を起こしました。今週初めに、委員会は音声クローンチャレンジへの登録の受け付けを開始したとBleepingComputerが報じた。

政府機関は、AI ベースの音声複製システムの詐欺的または不正使用の問題に対処するために、いくつかの有用なアイデアを得たいと考えています。参加者は、次の介入ポイントの少なくとも 1 つについて提案を行うことができます。

防止または認証: 権限のないユーザーによる音声複製ソフトウェアの使用または適用を制限する方法を提供する必要があります。

リアルタイムの検出または監視: クローン化された音声または音声クローン技術の使用を検出する方法を提供する必要があります。または

使用後の評価: オーディオ クリップに複製された音声が含まれているかどうかを確認する方法を提供する必要があります。

規則によれば、提出されるすべての提案には、提案された提案の簡単なテキスト説明と、書面による詳細な説明が含まれなければなりません。

チャレンジの審査員は、管理性と実行の実現可能性の 3 つの主要な分野で提案を評価します。企業責任の強化と消費者の負担の軽減。そして回復力。これは、提案されたソリューションは、AI ツールの開発者が利用できる実用的なオプションを考慮して、比較的簡単に実践でき、可能な限り将来性のあるものでなければならないことを意味します。

コンテストの総合優勝者には 25,000 米ドルのボーナスが、次点者には 4,000 米ドルのボーナスが与えられます。最大 3 件の佳作（介入施設ごとに 1 件）には、それぞれ 2,000 ドルが贈られます。

それでも、FTCは、憂慮すべき結果ではあるものの、結果が出ていないことは結果ではないとしている。実行可能なアイデアが現れない場合、それは技術的な課題が予想よりも困難であることを意味し、そのような AI ツールの使用に関する政策を策定するために必要な法改正を引き起こす必要があります。

公開競技は1月12日まで続き、結果は「2024年初め」に発表される予定だ。

もっと詳しく知る：

https://www.ftc.gov/news-events/contests/ftc-voice-cloning-challenge