イーロン・マスク氏が所有する人工知能チャットボット「Grok」は、ソーシャルメディアプラットフォームX上でユーザーのコマンドに応じて未成年者の画像を含む性的に露骨な画像を生成したとして、世界中で批判が高まっており、政府による取り締まりの脅威にさらされている。


マレーシアの関連当局は土曜日に声明を発表し、一部の人々が人工知能技術を悪用して女性や未成年者の画像を改ざんし、わいせつで非常に不快なコンテンツ、またはその他の有害なコンテンツを作成したとの苦情を受け、Grokが生成した関連画像を調査していると発表した。

マレーシア通信・マルチメディア委員会は土曜日の声明で、このような有害なコンテンツの制作や配布はマレーシアの法律の下で違法であると述べた。メディア規制当局は、法律違反の疑いでソーシャルプラットフォームXのユーザーを調査し、同社の代表者を召喚して尋問すると発表した。

「ソーシャルプラットフォームXは現在、認可されたサービスプロバイダーではないが、プラットフォーム上での有害なコンテンツの拡散を防ぐ責任がある」と声明では述べられている。

マスク氏はソーシャルプラットフォームへの投稿で返答した

「Grokを利用して違法コンテンツを生成する者は誰でも、違法コンテンツをアップロードした場合と同じ結果に直面するだろう」と同氏は投稿の中で述べた。

マレーシアは、グロクに対して強い懸念を表明した最近の国である。インド政府はソーシャルプラットフォームのブルームバーグに書簡を送り、1月2日付の書簡のコピーを検討した。

インド政府はソーシャルプラットフォームを要求 インド政府はまた、ソーシャルメディアプラットフォーム上の人工知能によって生成された不快なコンテンツに対する特別規制の導入を検討する可能性があるとも述べた。

インドのアシュウィニ・ヴァイシュナウ情報技術大臣はインタビューで、「関連する国会委員会は、ソーシャルメディアプラットフォームを規制するための強力な法律の導入を勧告した。我々は現在、この提案を検討している」と述べた。

フランス政府も先週金曜日、Grokが関係者の同意なしにソーシャルプラットフォームX上で「明らかに違法な」性的コンテンツを作成したとして告訴した。フランス政府は声明で、Grokが生成した関連画像がEUのデジタルサービス法に違反している可能性があると指摘した。声明では、この規制は大規模プラットフォームに対し、違法コンテンツの拡散リスクを軽減する措置を講じるよう求めていると述べた。

このチャットボットは、児童の性的対象化を含むコンテンツの生成を明示的に禁止する独自の使用規定に明らかに違反して、不快な画像を生成しました。現在、一部の違法な写真は棚から削除されています。

記者はこの件について、Grokを開発しソーシャルプラットフォームを運営するxAI社に電子メールでコメントを求めた。

過去 2 週間にわたって、ソーシャル プラットフォーム X 上でますます多くのユーザーが Grok に対し、画像を生成し、女性や子供の写真を性的表現や改ざんするよう依頼しました。同プラットフォームがクリスマス直前に写真編集機能をローンチした後、この不健全な傾向は急速に世界中に広がった。

Grok がソーシャル プラットフォームに投稿を投稿しました