要約:
この 2 日間で、特に興味深いニュースを見ました。オーストラリアに Apate.ai という会社があります。Apate.ai は、ギリシャ神話の欺瞞の女神にちなんで名付けられました。この会社がやったことは特にとんでもないことだ。彼らは 350,000 個の AI を構築しました。そして、これら 35 万台の AI の毎日の主な仕事は、人々に嘘をつくことです。
ただ、騙す対象がちょっと特殊なんです。
彼らは詐欺師を専門としています。
はい、彼はあなたが思っているような嘘つきです。
各 AI は、老若男女、男性でも女性でも、一般人のふりをします。彼らはアクセントも異なり、複数の言語を話し、さらには独自の性格を持っています。
詐欺電話、フィッシング Web サイト、投資詐欺など。詐欺師を見つけさえすれば、AI をそこに送り込み、被害者のふりをして詐欺師とチャットする方法を見つけます。
最も重要なことは、これらの AI には非常に面白い共通の特徴があるということです。つまり、非常にだまされやすいということです。
詐欺師は送金を要求しましたが、問題ないと言われました。
詐欺師は私に Web サイトを開くように求めましたが、大丈夫だと言われました。
詐欺師は私に銀行カード番号を入力するよう求めましたが、「はい、問題ありません」と答えました。
そして、実行ステップになると、突然愚かな行動を開始します。
おっと、銀行カードをどこに置きましたか?
おっと、これはどのパスワードですか?
ああ、私は年をとったので視力があまり良くありません。弟よ、もう一度言ってくれる？
詐欺師と突然話すと、通話が 2 時間以上続く場合もあります...
嘘つきは倒れそうになった。
しかし、電話の向こうのおばあさんはとても丁寧でした。
「申し訳ありませんが、若者、もう一度教えてください。」
Apate 自身によると、彼らの AI は詐欺師と 250 万回チャットしており、今でも毎日数万人の詐欺師と同時にチャットしています。
詐欺師は合計で約 17 年かかりました。
そうですね、17 年...
オーストラリアの通信事業者 TPG は、約 590,000 件の不審な電話を Apate の AI に直接転送して応答しました。その結果、オーストラリア コモンウェルス銀行は、公的に報告された詐欺による損失を 76% 直接削減しました。
最も面白いのは、詐欺師が時々、これらの AI によって倒れるまで引きずり込まれ、電話で罵倒されることです。
アパテは怒らなかっただけでなく、資金調達のロードショー資料にこれらの悪口を盛り込みました。同社の共同創設者は、ユーザーが自社製品を批判したときにそれを祝う企業はおそらく世界で唯一Apate社だけだと語った。
すべての始まりは、数年前の家族のピクニックでした。
アパテの創設者はダリ・カーファルです。その日、彼は家族をピクニックに連れて行きましたが、その後奇妙な電話を受けました。この電話はあまりにも粗雑で、詐欺師のように聞こえました。
しかし、彼は諦めませんでした。なぜなら、子供たちを幸せにするために、彼は愚かな妖精に取り憑かれたふりをして抽象化に取り組み始めました。そして非常に協力的で、嘘つきと一言一句おしゃべりしていました。
この会話は 44 分間続き、その後家族全員が笑い出しました。
カーファルは笑った後、突然何かに気づきました。
この 44 分間、詐欺師は回線でチャットを続け、他の人に電話する時間がありませんでした。本来であれば、一人暮らしの老人がこの電話を受け、生存を支える最後の年金を騙し取られるかもしれない。
もちろん、その代償として、彼も 44 分間出場できました。
そこで、彼は新しいアイデアを思いつき、この問題を AI に任せることはできないか、と自問しました。
カーファー氏はもともとシドニーのマッコーリー大学でネットワーク セキュリティの研究を行っていたため、彼と同僚は詐欺電話の研究に特化し始め、AI を使って詐欺師の言葉を少しずつ解体していきました。 2024 年に、このアイデアは Apate になりました。
44 分間のピクニックが、合計 17 年を要した保護活動に変わりました。
この世界で私が心の底から嫌いなものがあるとすれば、それは詐欺に違いありません。
多くの人が私と同じように考えていると思います。
しかし現在、AI は、悪を行うことと悪を防ぐこととの間のコストである、過去に特に不公平であったものを変えつつあるようです。
最近、私はミャンマー北部の通信詐欺に関するドキュメンタリーを見ていました。一般人が騙されないように皆さん頑張っているんだなと実感しました。
しかし、詐欺行為に関して非常に嫌な点の 1 つは、そのコスト構造が当然詐欺師にとって有益であるということです。
たとえば、嘘をつく人は 1 日に何百人もの人に電話をかけることがあります。これはギャンブルなので、最初の数百人全員が電話を切ったとしても問題ありませんが、最終的に 1 人が騙されさえすれば、大金が儲かる可能性があります。
しかし、普通の人にとっては、これまでに何千回も騙されたことがないかもしれません。
千初めて、私はたまたま演技の上手な嘘つきに出会った、その日たまたま機嫌が悪かった、そしてたまたま自分の弱さに出会った。
それは、あなたの貯蓄がなくなることを意味するかもしれません。
嘘つきは何度でも失敗する可能性がありますが、あなたや私のような普通の人は、残念ながら一度も失敗する機会すらないこともあります。
つまり、私たちの国、そして社会全体が数え切れないほどのことを行い、一般の人々の警戒心を高める方法を見つけようと努めてきました。
AI の登場により、詐欺師はテクノロジーを利用して悪事を行うコストを削減できるようになりました。
では、なぜ同じテクノロジーを使用して他者を保護するコストを削減できないのでしょうか?
今年 8 月、Apate はシードラウンドで 815 万米ドルの資金調達を受けました。 AIの波全体から見ると小さいように見えますが、それでも私は彼らに畏敬の念を抱きます。さらに、銀行や通信事業者など、実際にお金を払ってくれる顧客を獲得し始めています。
ひとたび善意が機能し続け、模倣され、拡大されると、それが生み出す力は一人の人間の能力をはるかに超えるかもしれないと思います。
なんという偶然でしょう。
アパテ事件が有名になったとき、中国でも同様のことが起こっていました。
最近世間を騒がせているAIシャオハイです。
ご存知の方も多いと思いますので、簡単にまとめさせていただきます。
おそらく、AI を使用して色白の少年をバッチ生成し、毎日カメラに向かって「おばさん」と叫んでいるグループがいるでしょう。
行ったり来たりするということは、今日は父が病気で、明日はいじめられ、明後日にはお金がなくなるということです。とにかくこれからもずっと苦しみ続けます。
結局、中高年の女性たちが彼を気の毒に思い、彼の窓口で高額な手数料の商品を買ってしまいました。一部の手数料は 55% にも達しました。おそらくこんなパターンだったのでしょう。
最もとんでもないことは、79 歳の老婦人が電話でシャオハイを心から信じていたことです。彼女は一人で電車の切符を買い、彼を捜すために山西省まで走った。
シャオハイが彼女に、一緒にアンズの花を見に行ってアミガサタケを摘みに行こうと言ったからです。
しかし、おばあさんは山西省に到着した後、どこへ行けばよいのかさえ知りませんでした。
彼女はシャオハイがそこにいるということだけを知っていました。
その後、警察は何かがおかしいことに気づき、彼に事情を聞いた。結局、家族に連絡して連れ戻してくれました。
そして、この事件が暴露された直後、中国の若者のグループが魔法と知恵を駆使して、AI を使用して反撃を開始することを決定しました。
そのうちの 1 人は、Xiaozhou という名前の 19 歳の大学生でした。
彼は、友人の家にいた老人が、シャオハイを気の毒に思って、自宅の窓にいくつかの品物を買っていたことに気づきました。
老人はシャオハイを信じていたので、シャオジョウは特に興味深い方法を考えました。
シャオハイに自分が嘘つきであることを老人に伝えさせ、AI を使用して 30 秒のビデオを生成しました。
相変わらずシャオハイの顔ですが、今回のシャオハイは、大邸宅に住んでスーツを着た裕福な二世に変身しました。
これは北京ニュースの暁州氏へのインタビューのスクリーンショットです。
このビデオでは、シャオハイさんの白髪の父親が駆け寄り、叔母や母親たちに二度と嘘をつかないように忠告しました。
その結果、シャオハイは背を向けて、あのおばさん達のことは全く気にしていないと言いました。彼が叫んでいる限り、彼らはお金を渡しに来ます。
ついに、彼は父親を追い出しました。
このビデオが投稿された後、実際には数十件の「いいね！」がついただけでしたが、Xiaozhou さんの友人はそのビデオを自宅のお年寄りに見せました。
シャオハイに物を買ってあげていた老人は、本を読んだ後こう言いました。
「ああ、どうしてこうなったんだろう。」
「もう彼からは何も買わない。」
まさにこのように、30 秒のビデオが老人の決断を変えさせたのです。
その後、ますます多くの若者が感染し、触発され、参加し始めました。
シャオハイに刑務所に行くように頼む人もいれば、タバコを吸ったり酒を飲むように頼む人も、金の鎖を着けて豪邸でお金を数えるように頼む人もいた。
シャオハイに囚人服を着て刑務所の鉄格子につかまり、カメラの前で自分が嘘つきであると認めるように要求する人もいた。
こうして素晴らしい AI 対決が始まりました。
北京ニュースのインタビューで暁州氏が言った言葉が特に好きです。
「親切な人は騙されないでください。」
このような単純な文は、いわゆる AI マニフェストと呼ばれる壮大な宣言よりも強力だと私は思います。
これら 2 つの物語、アパテとシャオジョウの物語を読んだ後、私は本当に感動しました。さらに、これは AI 時代における非常に特別な変化を完全に実証しました。
以前は、普通の人が善行をしようと思っても、それはできないかもしれません。
今、彼はついに AI とテクノロジーを使用して好意を拡大する機会を得ました。
昔、私は AI のふりをして B ステーション全体を返信で治した 17 歳の男子高校生についての記事を書きました。みんな普通だけど素晴らしい人たちです。
私たちは毎日、このモデルがどれほど賢いのか、どのようなベンチマークを破ったのか、これまで人間にしか実行できなかったタスクをどれだけ実行できるかについて議論します。
もちろん、これらは重要です。
しかし、これらのますます強力な AI の背後には、人々への純粋な優しさがさらに貴重であることが多いと思います。
私が最も見たいAIの未来は、おそらくこれです。
テクノロジー自体には実際には何の地位もありません。
AI が増幅しているのは人間の能力だけではありません。
また、人々の選択肢も拡大しています。
将来、いつの日か、最先端のテクノロジーを使って、人類の最も古くて素朴な優しさを守ることができることを願っています。
親切な方もよろしくお願いします。
決して自分自身の優しさのためにそうする必要はありません。
そしてまた怪我をします。
コメント