要約:
Microsoft CEO Satya Nadella 氏は、企業は強力な人工知能モデルを潜在的な内部脅威として扱い、これらのモデルが侵害される可能性があることを想定し、エージェント モデルが制御不能になるのを防ぐ「緊急ブレーキ」メカニズムを確立する必要があると述べました。ナデラ氏は、高度な人工知能を導入する企業はモデル開発者による保証のみに依存すべきではないと述べた。
「モデルが侵害されたと想定し、最初から制御する必要がある」とナデラ氏は土曜日の X への投稿で書いた。 「これを緊急ブレーキと考えてください。権限のある担当者は、モデルがその任務を実行している間、いつでもモデルを一時停止またはシャットダウンできる必要があります。」
ナデラ氏の発言は、Anthropic PBC と OpenAI Inc. として発表されました。同社は、Anthropic のモデルの 1 つが殺人事件やサードパーティの Web サイトに対するいくつかの攻撃に関する虚偽の情報を警察に提出したことなど、ここ数カ月間に同社の人工知能モデルの予期せぬ動作に関連した一連の事件を明らかにしました。この暴露により、最先端の人工知能のセキュリティリスクに対する懸念が高まり、人工知能のいわゆる「緊急キルスイッチ」に関する議論が再燃した。
業界リーダーが最先端モデルの開発速度を緩め、安全性により注意を払うよう呼びかけたことを受け、マイクロソフトの人工知能研究者は 9 月 14 日に、同社の最先端モデルの開発に制限を設ける一連のガイドラインを発表しました。 Microsoft は両方の高度なモデルを使用し、消費者向け製品 Copilot を発売するとともに、AI モデルとインフラストラクチャを企業顧客に提供します。
これらの基本原則では、人工知能モデルは権利や法人格を持たないこと、人間の制御から逃れたりユーザーを欺いたりするように設計されるべきではなく、実行するために拘束力のある原則に違反する必要があるタスクを完了してはならないと述べています。
ナデラ氏のセキュリティに関する推奨事項には、重要な意思決定において単一の人工知能モデルに依存しないこと、エージェントの行動の改ざん防止記録を保管すること、人工知能システムを独立した監査の対象にすることが含まれます。同氏はまた、人工知能の重大な障害やセキュリティインシデントの開示を求め、他の企業が保護対策を強化できるよう企業間で障害の詳細を共有するよう提案した。
「超知能を何層にも重ねたブラックボックスとして扱い、その提案、答え、行動を単に受け入れるか拒否することはできません」と彼は書いています。 「私たちは、その行動を観察し、その境界をテストし、その行動を常に制御できるように、制約のあるシステムを構築する必要があります。」
彼はさらに次のように付け加えました。「言い換えれば、情報の供給と情報の管理を分離する必要があるのです。」
トランプ政権はこれまでのところ、介入主義的なアプローチはほとんど取っていないが、新しい人工知能タスクフォースは金曜日遅く、開発者はセキュリティインシデントを報告して対処しなければならず、さもなければ不特定の潜在的な結果に直面する必要があると警告した。
「スーパーインテリジェンス ワーキング グループ」と呼ばれるこのグループは、Anthropic がセキュリティ インシデントを明らかにした後、次の声明を発表しました。「企業は自社のモデルに関連するインシデントを直ちに公表し、あらゆる損害を修復するために迅速かつ断固とした行動をとらなければなりません。」 「通知の遅れ、不適切な是正措置、説明責任の欠如は容認されません。」
コメント