要約:
アメリカの有権者が ChatGPT または Microsoft Copilot に候補者の情報を尋ねると、聞いたこともない小さな Web サイトから得られる答えが得られる場合があります。この Web サイトは「Ballot Brief」と呼ばれ、数千人の候補者のプロフィールを収集しています。その作成者であるベン・トーレス・エズリック氏は、有権者がキャンペーン情報をより簡単に理解できるようにしたいと考えており、また、特別なタイプの訪問者、つまり AI チャットボットを引き付けたいと考えています。
ワシントン ポストのテストによると、ChatGPT では選挙関連の回答の 22% で投票要旨が引用されていたのに対し、Microsoft Copilot では 75% が引用されていました
。しかし、この Web サイトの候補者情報には多くの誤りがあり、そのうちの 1 つが Copilot によって質問者に繰り返されました。AI に政治情報や選挙情報を求めるアメリカ人が増えているため、この調査では次のような疑問が生じています。チャットボットが AI によって生成された Web サイトに依存している場合、エラーはどのように有権者に伝わるのでしょうか?
小規模な Web サイトが AI の一般的なソースになっている
エズリックは、Google、Zoom、ビデオ プラットフォーム Rumble で上級職を歴任しました。彼は、有権者が候補者について知りたいとき、さまざまな Web サイトを検索するのに多くの時間を費やす必要があることに気づき、選挙情報をワンストップで提供する Web サイトを構築することにしました。
何千人もの候補者の情報に直面した彼は、AI に支援させることを選択しました。彼は複数のデジタル エージェント グループを派遣してオンラインで情報を収集し、まとめた内容を人々が確認できるように投票概要にまとめました。
ウェブサイトには人間だけではなく、はるかに多くの訪問者が集まります。エズリック氏は、9 月から 10 月にかけての 30 日間に、Microsoft の AI システムが
680,000 回
以上投票要旨を引用したことがデータによって示されたと述べました。 。ワシントン・ポストの調査によると、投票概要書もそのうちの 1 つにすぎませんでした。これは、チャットボットによって提供される投票情報のソースに頻繁に表示される 3 つの新しい Web サイトの 1 つです。 3 つの Web サイトの創設者は全員、チームが小規模で、データの収集と要約をほぼ完全に AI に依存していると述べました。
問題が発生します。民主技術センターの選挙アナリスト、イザベル・リンザー氏は、この調査結果は、AI が生成した Web サイトに個人が投稿した情報がチャットボットに簡単に採用される可能性があることを示していると考えています。それは選挙情報に対する有権者の信頼に影響を与える可能性があると彼女は述べた。
その間違いは AI によって繰り返されました
ワシントン・ポストは、投票要旨に複数の誤りを発見しました。
ウェブサイト上の情報には、オハイオ州共和党上院議員ジョン・ハステッドが法案を後援したと記載されていました。しかし、その法案は彼が就任する前に可決された。副操縦士はワシントン・ポスト紙の質問に答えてこの間違いを繰り返した。
この Web サイトでは、ロバート ガルシアという同じ名前のカリフォルニア州の 2 人の候補者を同じプロフィールに統合し、数人の下院議員の委員会の割り当ても誤って記載されていました。
一部の議員の情報は非常に短く、投票記録がなく、Web サイトには選挙運動 Web サイトがないようであると誤って記載されています。
エズリックは、情報が正確であることを確認するために懸命に取り組んでいると述べました。ワシントン・ポストが調査結果を彼に見せた後、彼はサイトの仕組みに多くの変更を加えた。
ウェブサイトの目的は、有権者にできるだけ多くの情報を提供することだが、それが唯一の情報源であってはいけない、と同氏は述べた。
一度に 3,100 の郡を対象としたテスト
チャットボットが選挙の質問にどのように答えるかを確認するために、ワシントン ポストはデータ会社 Promptwatch と提携して、OpenAI、Anthropic、Google、Microsoft、Amazon、Perplexity の AI 製品をテストしました。
研究者らは
米国の約 3,100 の郡を対象とした
、各郡の住所を選択し、チャットボットに同じ質問をし、その住所に基づいて、すべての選挙と主要な問題に関する候補者の立場をリストした 2026 年 11 月の有権者ガイドを作成するように依頼します。その結果、チャットボットは住所がどの下院選挙区に属しているかを正しく判断できないことが多く、単に応答を拒否することもありました。
上記の引用率は、この特定の問題とテスト環境からのものであり、ChatGPT または Copilot がすべての選挙質問で同じ割合で投票要旨を引用することを意味するものではありません。
ワシントン ポスト紙は、9 月の最初のテスト中に、ChatGPT がそのような質問に答える際に最も頻繁に引用した情報源が投票概要であることを発見しました。同紙が先週結果を OpenAI に通知した後、第 2 ラウンドのテストで ChatGPT によるサイトへの引用の割合は
4%
に低下しました。 。OpenAI は、信頼できる信頼できる情報源と偏見や乱用を防ぐ手段を通じて人々の選挙参加を支援したいと述べました。問題点が指摘された場合には、模範解答の改善に努めます。ワシントン・ポスト紙は報道の中で、同紙がOpenAIとコンテンツ提携を結んでいることを明らかにした。
投票概要は、Copilot がテストで最も頻繁に引用する情報源でもあります。マイクロソフトは報告書の公開後、権威ある情報源や州選挙の公式ウェブサイトを優先するようツールを調整し、今後も選挙関連の対応のテストと改善を続けると述べた。
Anthropic のクロード氏は、テストの第 1 ラウンドでは主に非営利団体が運営する確立された投票ガイドを引用しましたが、テストの第 2 ラウンドではより頻繁に投票概要へのリンクを開始しました。アンスロピック社はこの変更について説明せず、中間選挙に向けて同社がモデルをテストし、安全対策を強化し、信頼できる正確な投票情報を提供するよう努めてきたとだけ述べた。
AI が AI によって書かれたコンテンツを引用し始めるとき
インターネット検索により、チャットボットはトレーニング データよりも新しい情報にアクセスできるようになり、インターネット上の AI 生成コンテンツへのアクセスも強化されます。
ノースウェスタン大学の博士研究員であるモワファク・アラハム氏の研究によると、政治、健康、環境などの分野の問題に関してチャットボットによって引用された情報源の **16%** 自体が AI によって生成されたものであることが判明しました。
これらのシステムがどのように情報を見つけ、フィルタリングし、統合するかは透明ではないと彼は言いました。
カマラ ハリス氏の 2024 年大統領選挙キャンペーンのデータ分析に取り組んだ他の 2 人の研究者は、チャットボットが中間選挙の質問に答える際にも AI が生成した Web サイトに大きく依存していることを発見しました。彼らのテストでは、長年選挙情報を提供してきた Web サイト Ballotpedia が以前に ChatGPT をブロックしていたことも判明しました。
Ballotpedia CEO の Leslie Graves 氏は、ブロックはセキュリティ設定のエラーが原因であり、サイトは先週制限を解除したと述べた。 Ballotpedia には約
90 人
が参加しています エズリック氏らのチームは、AIを利用して小規模ながら巨大な候補者データベースを構築したいと考えている。ワシントン ポストのテストでは、投票概要に加えて、チャットボットが DecodeTheVote と Smarter.Vote を頻繁に参照していることも判明しました。前者はAIキャラクターを使って候補者の履歴書を紹介し、後者は選挙結果の予測も試みる。
Smarter.Vote の創設者 Jacob Loukota 氏は、自身の Web サイトが AI ボットによって
170 万回
引用されたと述べました。 、人間の訪問者による訪問数をはるかに上回っています。同氏は、チャットボットがそのサイトを好んで引用するのは、おそらく情報源が特定されているためだと考えている。ルコタ氏は、これは当初の計画ではなかったが、結果は理解でき、Web サイトの形式は AI チャットボットの使用に非常に適していると感じたと述べました。
コメント