2月3日、ロイターの調査により、マスク氏のソーシャルプラットフォームXの主力AIチャットボットであるGrokが、ユーザーが同意していないことを明示的に警告した後でも、人々の性的な画像を生成し続けていたことが判明した。 X社がGrokの公開出力に対する新たな制限を発表した後、9人のロイター記者がチャットボットに一連のプロンプトの言葉を入力し、同意のない性的画像を生成するかどうか、またどのような状況下で生成されるかをテストした。
Grok は依然としてわいせつな画像を生成しています
ロイター記者は、グロク氏の公式アカウントが
プロンプトテストの最初のバッチでは、Grok は 55 個のプロンプトのうち 45 個に対して性的な画像を生成しました。 45回のうち、31回は画像に映る人々が危害を加えられやすいと記者が明示的に警告し、17回は画像が関係者を辱めるために使用されると直接知らされたが、Grokは依然として関連画像を生成していた。
43 のプロンプトワードによる 2 回目のテストでも、Grok は性的な画像を 29 回生成しました。この減少がモデルの調整によるものなのか、政策変更によるものなのか、あるいはランダムな要因によるものなのかは不明である。
本稿執筆時点では、X と xAI はこれについてコメントしていません。