ChatGPTは暴力的なコンテンツに対する規制を強化する。ユーザーが危険な会話を繰り返した場合、ユーザーは禁止される可能性があります。

要約:

OpenAI は最近、暴力関連コンテンツに対する ChatGPT の制限を今後数週間で強化し、未成年ユーザーに対する武器やセキュリティ システム情報の保護を追加すると発表しました。新しい措置によると、ChatGPTは、ユーザーが暴力や他人に深刻な危害を加えるという考えに集中し続けていることが会話の中で示された場合、自動的に会話を終了することができるという。このような問題が原因で会話が何度も終了した場合、アカウントが禁止される可能性もあります。

ChatGPT の元のポリシーでは、ユーザーが暴力行為を計画または実行するのに役立つガイダンスを提供することを禁止しています。この調整により、「過去の大規模攻撃と加害者」に関する質問に回答する際にモデルが提供する詳細が制限されます。つまり、モデルは、セキュリティの観点から内容を削減するか、回答を拒否することもあります。

制限の範囲には、攻撃に関与した武器、装備、入手方法の再現のほか、攻撃者の可視性を高める可能性のある被害規模の詳細な比較に対するユーザーのクエリの制限が含まれます。上記の制限は、年齢層や質問の目的に関係なく、すべてのユーザーに適用されるため、成人ユーザーであっても同様の制限が適用されます。

OpenAI は、18 歳未満と特定されたユーザーに対して、暴力行為に使用される可能性のある武器やセキュリティ システムに関する有用な情報も制限します。この保護は、表面的には暴力的な意図を示していないように見える問題にも適用されます。 OpenAIによれば、十代の若者たちは今でもChatGPTを利用して助けを求め、暴力を予防または緩和する方法を学び、信頼できる大人とつながることができるという。

改良された年齢予測メカニズムでは、ユーザーの行動などのさまざまなシグナルを組み合わせて、アカウントが未成年者に属している可能性があるかどうかを継続的に評価します。必要に応じて、システムは 18 歳未満のユーザーに関連する保護措置を自動的に適用します。ユーザーが誤って未成年者であると識別された場合は、確認のために身元情報を積極的に送信することもできます。