OpenAIは、同社のチャットボットサービスChatGPTが、中国の法執行機関と関係のある個人が日本の首相に対するオンライン中傷キャンペーンを計画するのを支援することを拒否したと述べた。サンフランシスコに本拠を置くこの新興企業は、「人工知能の悪意ある使用との戦い」に関する最新の更新で、ユーザーの要望には、国内外の敵対者を対象とした広範な秘密影響力作戦に関連する複数の状況レポートの改訂が含まれていることを明らかにした。

OpenAIは入手した証拠に基づいて、これらの行為は中国の法執行機関が「大規模でリソースを大量に消費し、継続的な」作戦で反対意見を抑圧しようとしていたことを示していると判断した。

関連する非難について、中国外務省の毛寧報道官は木曜日の定例記者会見で、「私はあなたが言及した状況を承知しておらず、この非難の根拠は見当たりません」と答えた。

このニュースは、OpenAIのライバルであるAnthropic PBCが、関連するセキュリティ制限を弱めるという米国国防総省からの圧力に抵抗しながらも、その特徴的なAIセキュリティ「ガードレール」への取り組みを緩和することを決定した中で発表された。

OpenAIは水曜日、同社のモデルを使用した一連の不適切な行為の事例を最近特定したと発表した。その中には、インドネシア人をターゲットにしたオンラインロマンス詐欺、ロシアと関係のあるソーシャルメディアコンテンツファーム、米国当局者から情報を求めている可能性のある中国起源と考えられるさらなるアカウントなどが含まれる。

OpenAIによると、日本の高市早苗首相に対するこの計画は、選挙直前の昨年10月中旬に浮上した。当時、高石は中国の内モンゴル地域の人権状況を公に批判した。関連ユーザーは、ChatGPT を使用して、Gao Shi に関する否定的なコメントを増幅させ、彼を極右人物として描き、インターネットに対する大衆の圧力を高める計画を​​立てようとしました。

それ以来、日本の首相は、中国が自国の領土の一部とみなす自治島である台湾に関する発言で中国からの批判を招いている。この一連の紛争によって引き起こされた外交的緊張は、中国と日本の間の観光と貿易に影響を及ぼし続けている。