要約:
AI エージェントを使用しているユーザーのマット スミスさんは、AI がいつものように買い物の注文を完了する代わりに、奇妙な量の卵を注文したことに気づきました。マット・スミスは買い物リストに卵を入れていませんでした。しかし、AI アシスタントは、有名な地元ブランド「Vital Farms」の大きな卵 4 パックをショッピング カートに追加しました。 1袋に卵が18個入っており、合計72個の卵が自宅に届けられた。

注文を確認した後、スミス氏は AI にこの数字を選んだ理由を説明するよう求めましたが、AI の答えは説得力に欠けました。「満足のいく答えが得られません。なぜ 4 という数字を選んだのかを説明するメモが見つかりません。」
AI エージェントは当初、買い物リストの画像を読み取る際に卵に関する情報を誤って読み取ったと述べました。しかし、スミス氏は、自分のリストには卵がまったく記載されていないことをすぐに指摘した。 AIは最終的に、理由もなく卵を注文に加えたことを認めた。
これは AI の幻覚の実例であり、日常業務を人工知能エージェントに委任する際に予期せぬ結果をもたらす可能性がある問題です。
これらのツールが個人情報に広範囲にアクセスするリスクを過小評価することはできません。たとえば、Meta の Muse AI エージェントの立ち上げ直後、ある男性は、AI が知らないうちに Facebook マーケットプレイスで見知らぬ人に自宅の住所を教え、自宅に誘導したと報告しました。
スミス氏はこの事件を、壮大な言語モデルの幻想の実際の結果を体験した最初の個人的な経験であると述べ、さらに深刻な結果をもたらした可能性があると述べました。
このテクノロジーは大幅に進歩していますが、AI エージェントは依然としてエラーを起こしやすいため、監督なしで生活のあらゆる側面の処理を任せるべきではありません
コメント