英「ガーディアン」の調査で疑問を呈されたことを受け、グーグルは肝機能に関連する一部の医療検索結果ページからAI概要機能を削除した。 The Guardian の調査では、Google AI 概要が特定の健康上の質問に答える際に誤解を招く可能性のある情報を提供し、その医療シナリオの安全性について懸念が生じていることが指摘されました。
ガーディアン紙の以前の報道によると、ユーザーが「肝臓の血液検査の正常範囲はどれくらいか」と尋ねると、Googleが提供するAIの概要は、国籍、性別、人種、年齢などの重要な要素を区別することなく、一連の値を直接提示するという。専門家らは、この「画一的な」基準範囲によって、一部のユーザーが検査結果が正常であると誤って信じ込み、その結果、治療が遅れたり、潜在的なリスクが無視されたりする可能性があると懸念している。
最新の展開の中で、ガーディアン紙は、グーグルが「肝血液検査の正常範囲」や「肝機能検査の正常範囲」（肝機能検査の正常範囲とは何か）などの関連クエリ結果からAIの概要を削除したと伝えた。ただし、調査では、「lft 参照範囲」または「lft テスト参照範囲」を入力するなど、同じ種類の質問にわずかな変更を加えた場合でも、AI によって生成された要約回答がトリガーされる可能性があることも判明しました。
TechCrunchの記者たちは、最新のGuardianレポートが公開されてから数時間後に自らテストしたところ、AI概要モジュールが元の質問でもそのバリエーションでも検索結果ページに表示されなくなったことが判明した。複数のテストで、Google は依然として「AI モードで質問する」ための入り口を提供しますが、デフォルトの検索結果は主に従来のリンクです。多くのクエリの最初の結果は、Google による AI 概要自体の削除に関するガーディアンのレポートです。
特定の削除行為に関して、Googleはガーディアンに対し、同社は検索における「個々の削除事例」についてはコメントしないが、「広範な改善」を継続すると述べた。グーグルの広報担当者はまた、臨床医の社内チームがガーディアン紙が挙げた関連クエリを精査し、「多くの場合、情報は不正確ではなく、高品質のウェブサイトによってサポートされている」と考えていることを明らかにした。
この件についてGoogleはさらなるコメントを求められている。レポートでは、Googleが昨年、健康検索の概要表示の強化や、より特化した健康関連AIモデルの導入など、医療シナリオにおける検索エクスペリエンスの最適化を目的とした一連の改善を発表したことを思い出している。
英国肝臓トラストのコミュニケーション・政策担当ディレクター、ヴァネッサ・ヘブディッチ氏は、グーグルが関連するAIの概要を削除したことは「良いニュース」だとガーディアン紙に語った。しかし、より大きな懸念は、外部の世界が現在「単一の検索結果についてうるさく言っており、Googleは個々のクエリのAI概要をオフにすることですぐに出血を止めることができるが、健康AIの概要という全体的な問題にはあまり触れていない」ことであるとも強調した。