今日は、ChatGPT に対する Google の答えである Bard の進歩と、今日のチャットボットに関する最も差し迫った問題の 1 つであるチャットボットがでっち上げる傾向をどのように解決するかについて話しましょう。

昨年チャットボットが導入されたときから、チャットボットの作成者はチャットボットを信用しないよう警告してきました。 ChatGPT などのツールによって生成されるテキストは、確立された事実のデータベースに基づいていません。代わりに、チャットボットは予測機能を備えており、基礎となる大規模な言語モデルでトレーニングされた大量のテキスト コーパスに基づいて、どの単語が正しいと思われるかを確率的に推測します。

その結果、チャットボットは業界用語で「自信を持って間違いを犯す」ことがよくあります。今年、ChatGPTによって生成された引用文を提出した弁護士の事例のように、これは高学歴の人々さえもだます可能性があります。すべての訴訟が無計画に行われたことに気づいていません。

この状況は、チャットボットが研究アシスタントとしてほとんど役に立たないと私が考える理由を説明しています。彼らは、あなたが望むことをほんの数秒で教えてくれますが、ほとんどの場合、自分の業績については言及しません。したがって、その答えが正しいかどうかを調査するために多くの時間を費やす必要があります。これでは、多くの場合、そもそもチャットボットを使用する目的が無効になります。

GoogleのBardが今年初めにローンチされたとき、同社の検索エンジンにクエリを送信する「GoogleIt」ボタンが搭載されていた。これにより、チャットボットの出力についてより迅速にセカンドオピニオンを得ることができますが、それでもそれが真実か嘘かを判断する責任はユーザーにあります。

しかし今日から、Bard はあなたのためにさらに多くのことをしてくれるでしょう。チャットボットが質問の 1 つに回答したら、Google ボタンをクリックして回答を「確認」します。同社はブログ投稿で次のように説明しています。

「G」アイコンをクリックすると、「Bard」が回答を読み上げ、回答を裏付けるコンテンツが Web 上にあるかどうかを評価します。主張が評価できる場合は、強調表示された語句をクリックして、検索で見つかった裏付け情報または矛盾する情報の詳細を確認できます。

クエリを詳しく調べると、応答内の多くの文が緑または茶色に変わります。緑色で強調表示された返信は、参照元の Web ページへのリンクです。これらのページのいずれかにマウスを置くと、Bard が情報の出所を表示します。茶色で強調表示された返信は、Bard がメッセージの発信元を知らないため、強調表示がエラーである可能性があることを示しています。

たとえば、レディオヘッドの歴史に関する私の質問に対するバードの回答を再確認したところ、私自身の知識と一致する緑色で強調表示された文が多数表示されました。しかし、それはまた、「彼らは6つのグラミー賞と9つのブリットアワードを含む数多くの賞を受賞した」という文を茶色にします。この文にカーソルを合わせると、Google 検索結果で矛盾する情報が表示されます。実際、レディオヘッドは英国賞を9回どころか1回も受賞したことがありません。

「私の人生で起こった悲劇について話します」とグーグルのプロダクト担当シニアディレクター、ジャック・クラチック氏は先週のインタビューで私に語った。

クラウチックさんは自宅でメカジキを調理していたが、その調理過程から出る匂いが家中に広がったようだった。彼はバードを使って消臭方法を調べ、その結果を精査して事実とフィクションを区別しました。チャットボットが最初に言ったように、キッチンを大掃除しても問題は解決しないことが判明しました。ただし、家の周りに重曹の入ったボウルを置いておくと役立つかもしれません。

Krawczyk 氏は、人々は非常にさまざまな方法で Bard を使用しているため、ダブルチェックは必要ないことが多いと語った。 (通常、自分が書いた詩や下書きしたメールなどを再チェックするように要求することはありません)。

二重チェックは明らかな改善を示しますが、多くの場合、すべての引用を取り出して、Bard がそれらの検索結果を正しく解釈していることを確認する必要があります。少なくとも研究に関しては、AI が私たちの手を握っているのと同じように、人間も依然として AI の手を握っています。

しかし、これは歓迎すべき展開です。

「私たちは間違いを認める最初の言語モデルを作成したかもしれない」とクラウチック氏は語った。 「これらのモデルを改善することの重要性を考えると、AI モデルが間違いを正確に認めることを保証することは、業界にとって最優先事項であるべきです。」

火曜日、Bard は別の大きなアップデートを行いました。Gmail、ドキュメント、ドライブ、および YouTube やマップを含む他のいくつかの Google 製品に接続できるようになりました。いわゆる拡張機能を使用すると、Google アカウントに保存されているドキュメントをリアルタイムで検索、要約、質問することができます。

現時点では個人アカウントに限定されているため、その有用性は大幅に制限されていますが、Web を閲覧する別の方法としては楽しい場合もあります。たとえば、インテリア デザインの入門に関する素晴らしいビデオを見せてほしいと頼んだときは、素晴らしい仕事をしてくれました。 (これらのビデオは吟遊詩人の回答ウィンドウでオンラインで再生できるのは素晴らしいことです。)