先月の予備選挙でニューハンプシャー州住民に投票しないようジョー・バイデン米大統領の声のように聞こえるようにデザインされたメッセージが流されたことを受け、連邦通信委員会（FCC）は人工知能が生成した音声をロボコールに使用することを違法にする方向で動いている。同庁は、音声ディープフェイク技術が「有名人、政治候補者、近親者」の声を模倣することで消費者を混乱させ、欺くために利用されていると懸念している。
FCC委員長のジェシカ・ローゼンウォーセル氏の提案は、人工知能が生成した音声を使用してピックアップコールをかけることを電話消費者保護法（TCPA）に基づき違法とするものだ。
1991 年の TCPA 法は、電話勧誘販売、自動電話ダイヤル システム、人工または事前に録音された音声メッセージの使用を制限しています。この法律はまた、電話勧誘業者に対し、消費者に音声電話をかける前に消費者の明示的な書面による同意を取得することを義務付けている。 FCCはAIが生成したサウンドもこれらの基準に準拠することを望んでいる。委員会の５人のメンバーは今後数週間以内にこの提案について投票する予定だ。
ローゼンウォーセル氏は声明で、「AIが生成した音声クローンや画像はすでに混乱の種をまき、消費者に詐欺や不正行為が正当なものであると思わせている」と述べた。 「あなたがどの有名人や政治家が好きであれ、親戚との関係がどのようなものであれ、私たちは皆、助けを求める偽電話の標的になる可能性があります。」
音声不正検出会社ピンドロップは、バイデン氏がニューハンプシャー州住民に投票しないよう呼びかけているかのような39秒の偽メッセージを分析し、それがイレブンラボの音声合成エンジンを使用して作成されたことを発見した。このスタートアップは人工知能ソフトウェアを使用して、20 以上の言語の音を再現します。
ブルームバーグによると、イレブンラボは自社のソフトウェアがニューハンプシャー州の事件で使用されたことを認め、責任のあるアカウントを禁止したという。ニューハンプシャー州司法長官事務所は、バイデンになりすました人物からの電話に関する調査を発表した。
FCCの広報担当者は、法改正の可能性により、消費者を保護しながら人工知能を利用した音声通話詐欺師を取り締まる新たな権限が州司法長官に与えられるだろうと述べた。
FCCは何年にもわたってロボコールと戦ってきた。 2022年12月、連邦通信委員会は、2021年に3か月間に5億以上の電話番号に50億回以上のロボコールを発信した違法な多国籍ロボコール事業に対して3億ドルの罰金を提案した。2020年には、連邦通信委員会はまた、誤解を招くロボコールに対して2億2,500万ドルの罰金を課した。
家族の声を届けることは、犯罪者が疑いを持たない被害者から金を盗む一般的な手段となっています。 AI が生成するテクノロジーがより利用しやすく、安価になり、説得力が増すにつれて、この犯罪は増加し続けています。