英国の規制当局は、マスク氏のXプラットフォームのAIチャットボット「Grok」に対する調査の開始を望んでおり、性的暴行や「ディープフェイク」コンテンツの生成を抑制しなければ、同プラットフォームは英国で禁止されるか、巨額の罰金を科される可能性があると警告した。この訴訟は、オンライン安全法に基づいてソーシャルメディアと生成的AIプラットフォームに対するより厳しい規制を導入するという英国の決意を浮き彫りにしている。
英国のメディア規制当局オフコムは、Xプラットフォーム上のGrokチャットボットが対象者の同意のない「親密な画像」や児童の性的虐待を含む違法コンテンツなど、女性と子供のポルノ「ディープフェイク」画像を生成、配布するために使用されていたため、正式な調査を開始したと発表した。 Ofcomの広報担当者は、Grokが違法な合意のない親密な画像や児童性的虐待素材の作成・共有に利用されているとの報道は「非常に憂慮すべき」とし、特に児童の安全に関して、プラットフォームは英国法の下で違法とみなされるコンテンツから英国のユーザーを守らなければならず、規制当局は躊躇なく行動を起こすと強調した。
オンライン安全法に基づき、調査の結果、Xが違法コンテンツの閲覧や児童によるアダルトコンテンツへのアクセスを防ぐ十分な措置を講じていないと判断された場合、Ofcomは裁判所に英国でのプラットフォームのブロックを申請するか、最大1800万ポンドまたは世界収益の10％のいずれか大きい方の罰金を課すことができる。この調査は、以下を含む 6 つの側面の調査に焦点を当てます。
英国政府も規制当局の側に立つことを選択した。リズ・ケンドール技術長官は下院でこの問題について声明を発表する予定で、閣僚らもこれまでにオフコムの決定を支持する声を上げている。ピーター・ケル商務長官は、たとえXが最終的に英国で制限またはブロックされたとしても、政府はOfcomを支援すると述べ、画像生成・操作機能を備えたGrokの立ち上げ前に十分なテストを実施しておらず、女性に対する潜在的な危害を無視しているとしてXを批判した。
カイル氏はまた、具体的な事例についても言及した。あるユダヤ人女性は、自分の画像がAIによって生成され、アウシュヴィッツ強制収容所の外に置かれたことを発見した。彼女がビキニを着ている写真がネット上に拡散した。この事件で同氏は「極度の吐き気」を覚え、人間の尊厳を侵害するAIディープフェイクの典型例とみなされた。一部の国会議員や世論は、オフコムが今回は緊急権限を直接行使したり、より抜本的かつ即時措置を講じたりするのではなく、正式な調査を開始しただけだと考えているが、それでもまだ十分に強固ではないようだ。
国際レベルでは、マレーシアとインドネシアが先週末、Grokに対する行動を率先して行い、チャットボットへのアクセスをブロックした世界初の国となった。また、チャットボットが女性や子供のポルノ的で同意のない画像の生成に使用される可能性があるとの懸念も挙げた。この動きは、英国政府が言論の自由を抑圧しようとしていると以前に非難していたXのオーナー、イーロン・マスク氏を激怒させることが予想され、また現米国政権への不満を招く可能性もある。
米国国務省の公共外交担当国務次官サラ・ロジャースは最近、ロンドンの規制アプローチとモスクワのインターネット規制を比較し、英国が「ロシアのXブロック措置を検討している」と非難した。一方、Xは先週、無料ユーザーがGrok画像を生成する機能を部分的に制限したが、それでも有料ユーザーが極端な画像操作機能を含むサービスを使い続けることを許可しており、この措置は一般大衆と活動家グループの怒りをさらに煽った。
この論争の激化は、英国の閣僚が、より明確な規制上のシグナルを送るために、政府の公式情報のプラットフォームとしてXを使用するのをやめるべきかどうか検討するよう迫られている中で起こっている。会社
関連記事：
マスク氏所有のGrokは性的画像を理由にインドネシアとマレーシアで販売禁止となったが、この種のものとしては世界初となる。