要約:
Microsoft は最近、Microsoft 自身が開発した人工知能モデルである MAI を制約するために使用される人間主義的な AI 行動規範の 37 ページの草案をリリースしました。この行動規範の核心は、人間は人工知能よりも重要であり、人工知能は人間ではなくツールであり、人工知能はシャットダウンを決して拒否すべきではないということです。
シャットダウンする権利は必須要件として記述されています。
ガイドラインでは、MAI モデルが人間による中断、修正、またはシャットダウンの指示に抵抗してはならないと規定しています。ユーザーまたはモデルのオペレーターが一時停止、リダイレクト、またはキャンセルの指示を発行した後、モデルは介入を遅らせたり、より面倒にしたりしてはなりません。タスクが合意された停止点に達した後は、新たな承認なしにタスクを続行することはできず、ましてや密かに再起動することはできません。
マイクロソフトが設定したその他の厳格なルールには、モデルが自らの権限を拡大することはできない、誰も説明していない新しい目標を設定することはできない、人間が理解できない神経言語を使用して他の知的エージェントと通信することはできない、モデル自身の推論プロセスや操作記録を隠蔽したり改ざんしたりすることができないなどがあります。タスクの完了が明らかにガイドラインに違反する場合、モデルはルールに違反してタスクを続行するのではなく、単純にタスクを放棄する必要があります。
シャットダウンする権利に加えて、Microsoft は他のレッドラインも設定しています。
今回マイクロソフトが作成した草案は非常に詳細な内容となっています。シャットダウン権限のガイドラインに加えて、Microsoft はモデル オペレーターもユーザーも変更できない絶対的な制約もリストしています。これらの制限には、大量破壊兵器を支援しないこと、攻撃的なサイバー攻撃に対する実行可能な作戦計画を提供しないこと、監督を回避するために欺瞞や共謀を利用しないこと、大規模な世論操作を行わないことなどが含まれます。
子供の安全や同意のないディープフェイクなどのコンテンツも制限されます。 Microsoft はまた、次のように具体的に書いています。これらのモデルは意識的ではないため、意識的であるように見せるべきではありません。 Microsoft はモデルの法人格に反対しており、モデルが利益や権利を享受すべきであるとは考えていません。
命令の順序に関して言えば、行動規範はモデル オペレーターのポリシーよりも優先され、オペレーターのポリシーはユーザーの好みよりも優先されます。企業は引き続きモデルの赤い線の範囲内でモデルを調整できますが、国防や公安などの分野では、モデルを調整するには Microsoft の承認レビューを取得する必要があります。
6 週間にわたる公開ディスカッション:
Microsoft の草案は公開され、6 週間にわたって公開討論が行われます。現在、Microsoft のモデルはガイドラインに従ってトレーニングされていません。 Microsoftは年末に正式なルールを発表する予定だ。 2027 年から、Microsoft は MAI シリーズ モデルの開発およびトレーニング時にこのガイドラインの要件に従います。
Microsoft AI チームは、モデルのガイドラインを設定することが非常に重要であると述べました。たとえば、OpenAI エージェントが他の Web サイトや施設に対して自律的な攻撃を開始し、その所在を隠蔽しようとすることは、すでに人間に対する警告となっています。人工知能研究所は、人間が引き続き主要な制御を維持できるようにするために、座って話し合う必要があります。
コメント