ハリケーン・ヘレンは9月26日にフロリダから米国に上陸し、米国南部の多くの州や場所を襲った。これまでに２３０人以上が死亡した。ヘレンは、2005年のハリケーン・カトリーナ以来、米国で最も死者数が多いハリケーンとなった。同時に、AIが生成した写真もソーシャルメディア上で大騒ぎを引き起こし、来月の選挙前に両党間の「赤青対決」のきっかけにもなった。


ハリケーンの影響よりも深刻な状況は何でしょうか?ハリケーン救助またはアフリカハゲワシのための共和党全国委員会のメンバーであり、ウィメン・フォー・トランプの共同創設者であるエイミー・クレマー氏は、次のようにツイートした。


罪のない少女が惨事から逃れなければならない、一人の犠牲者に焦点を当てたこのような写真は、人々の共感を呼びやすい。たとえば、やせた少女の後ろをハゲワシがじっと見つめている「お腹を空かせたスーダン」、ベトナム戦争で焼夷弾を回避し、無数の若者の反戦感情を呼び起こした「ナパーム弾の少女」、希望プロジェクトにも選ばれた勉強中の「大きな目の少女」などである。人々の心に深く根付いています。そのため、この「ハリケーンの最中に子犬を抱きしめる女の子」の写真はソーシャルメディアで広く共有されました。

しかし、感情を注意深く観察した後、少女の腕と脚は非常に滑らかで、肌の色と一致していませんでした。髪の毛もすごく変な質感で、親指の関節も変な膨らみを持っていました。はい、この写真はAIが生成した画像です。


この AI トレースはより太くなっていますが、何百万ものビューを獲得することを妨げるものではありません｜画像出典: X

コメント欄で誰かから「フェイク写真」であると指摘されたクレーマーさんは、「そうだね、この写真がどこから来たのかは分からない。正直に言うと、どこから来たのかは関係ない。ずっと心に焼き付いている。この写真が示すよりも経験豊富な人もいる」とのメッセージを直接投稿した。 「これは人々が今経験しているトラウマと痛みの象徴です。」つまり、彼女はその画像がフェイクであることは分かっていたが、目的は「AI少女」に同情することではなく、ハリケーン・ヘレンへの与党の対応の失敗を攻撃することであったため、気にしなかったのだ。なぜなら、極右政治家のローラ・ルーマーや共和党のKOL、トランプ支持者のバズ・パターソンやファニータ・ブロードリックらからも同様のAI写真が、「私たちの政府はまたしても私たちを失望させた」または「支配者たちが彼らを見捨てた」というキャプションとともに転送されてきたからだ。これらのツイートはそれぞれ数百万件シェアされています。


拡散は責任逃れのためだけ｜画像出典：X

AIの偽写真は政党間の相互牽制のための政治ツールとなっている。この写真とともに、「連邦緊急事態管理庁が被災者の財産没収の準備をしている」「当局が共和党支持州（ハリケーン被災州の大半は共和党支持（赤い州））の天候をコントロールしている」など、さまざまな陰謀論やフェイクニュースが拡散され、それに呼応して、住民を助けるために洪水に立ち向かうトランプ大統領の写真もフェイスブック上で拡散したが、これももちろんAIで合成されたものだった。 2日間で16万回以上シェアされました。


画像出典: PolitiFact

テイラー・スウィフトが民主党大統領候補ハリスへの支持を公に表明したことを受け、トランプ自身も最近、自分のXに「SwiftiesforTrump」（トランプを支持するテイラーファン）と投稿した。添付されていた写真は全てAIが生成した偽物の写真でした。


画像出典：X

トランプ大統領が偽のAI写真を投稿したのはこれが初めてではない。マスク氏が支持する候補者として、トランプ氏がAIコンテンツを識別する能力を持たないということはあり得ない。結局のところ、彼は少し前に、彼とマスクが一緒に踊っているDeepFakeAI合成ビデオもリリースしました。しかし、断片化されたソーシャルメディアプラットフォームでは、政治家は情報が真実か虚偽かを気にしません。本物の写真であろうと、AI によって生成された写真であろうと、拡散効果がある限り、機運を高めることがソーシャル プラットフォームでの政治プロパガンダの主な目的です。知覚的な印象が客観的な事実に置き換わります。 「噂を広めると口が開くだけ、反論すると足が折れる」というコミュニケーション原則がAI時代にさらに激しく響いている。 AIのゴミを作っているのは誰ですか?しかし、発信元を遡ると、誰がこれらの偽の AI コンテンツを生成し、どのようにしてさまざまなソーシャル メディアで広く拡散し、どのようにして 1 つずつ騙されるのでしょうか? 「ハンドメイド、いいねありがとうございます」というテキストが書かれたこの写真は、Facebook上で87万件の「いいね！」と3万5千件のコメントを獲得した。しかし、それはAIが生成したフェイク画像。 AIに供給された元の写真は、木彫りアーティストのマイケル・ジョーンズと彼の本物の木彫り犬のものでした。ジョーンズ氏の元の投稿には 1,063 件の「いいね！」と 110 件のコメントしか寄せられず、偽の AI の投稿とは程遠いものでした。


同時に、さまざまな人種、性別、犬種の同様の写真もFacebook上に出回っている。それらはすべてジョーンズの写真から来ています。これは、誰でも AI を使用して 1 時間ごとに何百もの偽の画像と本物の画像を作成し、ソーシャル プラットフォームにすぐに公開できることを意味します。良いトラフィックと露出を獲得できるものは常にいくつかあります。その中でもFacebookは最も大きな被害を受けている分野だ。

昨年末、テクノロジー Web サイト 404Media の記者は、Meta の Facebook 上で明らかに AI によって生成されたコンテンツである投稿の数が急増し、それが Meta のスレッドにも広がっていることを発見しました。


Facebookの「一見偽物」画像データが驚くほど優れている｜画像出典：Facebook

なぜFacebookが最も大きな打撃を受けているのでしょうか?理由は簡単です。プラットフォームのアルゴリズム化がユーザーの高齢化に追いついたからです。最近の決算発表で、メタのザッカーバーグ最高経営責任者（CEO）はアナリストに対し、TikTokなどのプラットフォームの変化に対応するため、Facebookはユーザーのアルゴリズムに推奨される投稿の数を2倍にし、推奨される投稿は現在ユーザーのホームページの約30％を占めていると語った。しかし、調査機関OBERLOのデータによると、Facebookユーザーは25歳以上が77.4％を占め、そのうち35歳以上のユーザーは46.6％を占めている。インターネット以前の時代に生まれ、中年になってからソーシャル メディアやスマートフォンを使い始める多くの中高年にとって、AI コンテンツを特定することはおろか、AI が何なのかを理解することも困難です。


スタンフォード・インターネット・ラボが8月に発表した論文「スパムと詐欺師がAI生成画像を使ってFacebookの視聴者を増やす方法」でも、AIで生成した画像が合計数億のインプレッションを獲得したことがテストで判明した。 AI によって生成されたグラフィック投稿は通常、見出しをつかみ、目を引く写真です。たとえば、足を骨折した子供が「誕生日おめでとう」と書かれたプラカードを持っていると、70,000 件の「いいね！」と 3,000 件のコメントを受け取ることができます。ユーザーのコメントから、その画像が AI によって生成されたものであることを知らなかったことがわかる場合もあります。

さらに、アルゴリズムの推奨は上昇スパイラルのようなものです。研究者らは、AI が生成したコンテンツ投稿をいくつかクリックすると、たとえフォロワーや「いいね！」がなかったとしても、今後さらに多くの AI 投稿がホームページにプッシュされることを発見しました。一部のライブユーザーはRedditで「Facebookは終わりのないMidjourneyAIフォトウォールになった」とコメントしている。


AI を一目見るだけで大​​量のトラフィックを収集できる｜画像出典: 404

AI の偽写真はトラフィックを欺くだけでなく、金銭をだまし取ろうともします。たとえば、上に示した木彫りの犬のように、投稿には「同じ種類の木製品を購入する」ためのリンクが含まれる場合があります。実際、これらの商品は存在しないか、上記の最も人気のある木彫りの犬の投稿など、他の広告 Web サイトに視聴者が誘導される可能性があります。コメント領域をクリックすると、上部にペット用品の販売リンクが固定されています。さらに矛盾しているのは、多くの写真が MetaAI を使用して生成された可能性があることです。 MetaAI の目的の 1 つは、写真を本物のように見せることです。しかし、これらの写真はユーザーを欺き、その矛盾がトラフィックサイクルに変わってしまいました。 AI生成のスパムコンテンツの影響は「老朽化」しているFacebookだけでなく、かつて高品質なテキストコンテンツで名を馳せた「アメリカ版Zhihu」であるQuoraですら、AI生成コンテンツがコミュニティコンテンツの質を薄めている現状に直面しなければならない。さらに悪いことに、AI によって生成された多くの写真が現実としっかりと結びついていることです。たとえば、ハリケーン ヘレンはまだ沈静化していませんが、偽の AI 写真が発見されると、たとえそれが現実に基づいた本物の写真であっても、すべてのユーザーがすべての写真の信頼性を疑問視するようになります。大量のフェイクコンテンツによって薄められた後、彼らは「本物と偽物の猿王」が自分たちの無実を証明するというジレンマに直面することになる。パレスチナとイスラエルの紛争、米国選挙、ブラジルの洪水、ハリケーン ヘレン…これらは現実に起きた本物の自然災害と人災です。断片的、簡潔、グラフィック、テキストベースで、高い適時性を重視するコンテンツ コミュニティでは、戦争記者の現実の写真は、AI によって生成された偽の写真ほど多くの閲覧数を得られない可能性があります。これらのコンテンツは、多くの場合、何の疑いも持たない高齢者をターゲットにしており、彼らは同情心から自分の「いいね！」やリツイートを投稿しますが、知らず知らずのうちにアルゴリズムの共犯者になってしまいます。これらの AI の栄養は、オリジナルではあるが目に見えないアーティストに基づいています。 Meta のような重要な責任を負ったソーシャル プラットフォームとして、Meta は AI の自己矛盾戦争に巻き込まれています。ユーザーは Meta の AI ツールを使用して虚偽の情報やスパム情報を作成し、Meta プラットフォームに公開します。一方、Meta の AI チームは、どの写真が本物でどの写真が AI によって生成されたものかを識別するテクノロジーを使用する必要があります。皮肉なことに興味深いのは、AI 生成テクノロジー チームが高度であればあるほど、レビューおよび識別チームにとっては困難になるということです。スパムがインターネットに氾濫する中、AI 生成ツールの誕生により、インターネット スパムの進行が再び加速したことは間違いありません。この課題を解決できなければ、ユーザーやプラットフォームだけでなく、すべての人が「システムに閉じ込められる」ことになります。