インドネシアはマレーシアとフィリピンに続き、xAIチャットボットGrokの「条件付き」ブロック解除を発表した。これらの東南アジア諸国は以前、GrokがソーシャルプラットフォームX（現在はxAIの子会社）上で、本物の女性や未成年者の画像を含む同意のない性的な画像を大量生成するために使用されていたとして、Grokを禁止していた。ニューヨーク・タイムズ紙とデジタル・ヘイト対策センターによる個別の分析では、12月下旬から1月だけで、Grokが女性の性的な画像を少なくとも180万件生成するために使用されていたことが明らかになった。
インドネシア通信・デジタル省は声明で、プラットフォームXが「サービスを改善し、悪用を防ぐための具体的な対策」を概説する書簡を送ったことを受けて、Grokの禁止解除を決定したと述べた。この書簡には、プラットフォームが講じることを約束したコンプライアンスと是正措置が詳しく記載されているとされており、関連する内容はニューヨーク・タイムズによって翻訳され、開示された。通信・デジタル空間監視局長のアレクサンダー・サバル氏は、禁止解除は「条件付き」のサービス再開であり、将来さらなる違反が発見された場合には禁止が再び発動される可能性があると強調した。
マレーシアとフィリピンは1月23日に最初にGrokの禁止を解除し、インドネシアは最も遅くGrokサービスを再開した国の1つとなった。同時に、Grok がディープフェイクの性的画像を生成した問題は、世界中の多くの国で広範な批判と規制調査を引き起こしましたが、実際に包括的な禁止を実施している国はまだ少数です。米国では、カリフォルニア州司法長官のロブ・ボンタ氏が、同氏の事務所がxAIを捜査しており、同社に「停止と停止」の書簡を送り、違法な画像の制作を中止するための即時措置を要求したと述べた。
事件が深刻化する中、xAIはGrokのAI画像生成機能をXの有料加入者のみに制限するなど、一部の機能を強化する措置を講じた。 xAIのイーロン・マスク最高経営責任者（CEO）は、「Grokを利用して違法コンテンツを作成した者は、違法コンテンツをアップロードした場合と同様の法的責任に直面することになる」と強調し、「Grokによって生成された未成年のヌードの画像については承知していない」と述べた。
規制の圧力が高まる中、マスク氏自身も性犯罪者の故ジェフリー・エプスタイン氏との関係で新たな監視の対象となっている。米国司法省が金曜日に公開した文書には、2012年から2013年にかけてマスク氏とエプスタイン氏の間で少なくとも16件の電子メールのやりとりが記録されており、その中にはマスク氏がエプスタイン氏のカリブ海の島への旅行に興味を示し、同氏が言うところの「あなたの島で最もワイルドなパーティー」について尋ねたものも含まれていた。エプスタイン被告は2008年、未成年の少女に売春を勧誘した罪で有罪判決を受けた。
商業レベルでは、xAIがマスク氏が所有する他の2社と合併交渉を行っていることも明らかになった。 xAIは、将来のSpaceXの新規株式公開に向けた道を整えるために、航空宇宙会社SpaceXおよび電気自動車メーカーTeslaとの合併オプションを検討しているとの報道がある。関連計画が実現すれば、マスク氏の多くの中核企業は資本および技術レベルでより緊密に統合された構造を形成すると予想される。
関連記事：
マスクAI企業がわいせつな画像を修正すると約束、フィリピンはGrokの禁止を解除
マスクAI企業がわいせつな画像を修正、マレーシアがGrokの禁止を解除