Gemma は、Google によって開始されたオープンソースの人工知能モデルです。このモデルは、Google AI Studio やその他のチャネルを通じてすべての開発者が利用できます。ただし、このモデルは Google によって廃止されているため、開発者が Google AI Studio から Gemma を見つけるのは難しい場合があります。
Googleはオープンソースの人工知能モデルを削除した理由を説明していないが、Googleがモデルを削除する前に、米国共和党上院議員マーシャ・ブラックバーン氏はGoogle CEOのサンダー・ピチャイに書簡を送り、モデルに彼女に関する虚偽の告発が含まれている理由をGoogleに説明するよう求めた。
ブラックバーン氏はまた、グーグルに対し、同社のモデルにこのような不具合が発生する理由を説明するよう求めたが、一方で彼女はこの問題を、保守派を中傷するチャットボットを開発したグーグルや他の企業を非難する進行中の公聴会と結び付けた。
公聴会でGoogleのマルコム・エリクソン氏は、人工知能の幻覚は生成型人工知能における一般的な問題であり、Googleはそのようなエラーの影響を軽減するために最善を尽くしているが、まだ幻覚を完全に排除することができている企業はないと説明した。
マーシャ・ブラックバーン氏は公開書簡の中で、Google Gemmaモデルによる彼女に対する虚偽の告発を公聴会後に初めて知ったと述べた。マーシャ・ブラックバーンが強姦容疑で告発されたのかと尋ねられたとき、ジェマ・モデルは州警察官と麻薬を使った関係があり、さらにモデルが捏造されたニュース・コンテンツへの誤ったリンクを生成したと答えた（つまり、参照されたコンテンツ・ソース自体は存在せず、純粋にモデル自体によって捏造された）。
実際、この状況は生成人工知能モデルでは珍しいことではありません。ユーザーが意図的に誘導している限り、生成型人工知能モデルはそのような幻覚を起こしやすい。特に Google AI Studio にはモデルの動作を調整できるツールが含まれているため、噂が広がりにくいです。