要約:
高レベルの人工知能が制御不能になり、テクノロジーが人間の支配に取って代わる潜在的なリスクについての世界的な懸念の高まりに直面して、テクノロジー大手のマイクロソフトは一連の新しいフレームワーク規範である「ヒューマニスト AI 行動規範」を正式に発表しました。この規範は、社内開発と製品展開に関する一連の拘束力のある鉄則を確立しており、最先端の人工知能システムの研究開発が常に人間の自律性、尊厳、社会福祉に役立つことを保証し、テクノロジーの進化が人間の意思決定権を奪ったり、基本的な社会契約を損なうような極端な軌道に陥ることを断固として防止することを目的としています。
マイクロソフトが公開した最新のガイドラインによると、このフレームワークの中核となる基礎は「人間の主体の地位の不可侵性」です。このガイドラインでは、主要な公共の利益、法的判断、医療診断、重要なインフラ管理、中核人材の雇用などを含む主要な生計の意思決定シナリオにおいて、人工知能システムは人間の判断を支援し、認知効率を向上させる「副操縦士」としてのみ機能できると明確に規定されている。人間の最終的な拒否権から切り離された完全な分散化またはエンドツーエンドの自律的な実行権を AI システムに与えることは絶対に禁止されています。最先端の大規模モデル アーキテクチャと自律エージェント (AI エージェント) の開発に携わる Microsoft 内のすべてのエンジニアリング チームは、システムの基礎設計に「人間参加型」のハードウェアおよびソフトウェア レベルのブロック メカニズムを強制的に組み込んで、緊急時にワンクリックでシステム操作を引き継ぎ、完全に終了する最終権限を人間が持つようにする必要があります。
テクノロジーが労働市場や社会心理に与える深刻な影響に対応して、「人文科学的人工知能行動規範」でも明確な規制境界が定められています。このガイドラインでは、高度なシミュレーション、強い感情的依存、または操作特性を誘発する擬人化アルゴリズムを使用することによるユーザー心理の不適切な使用を禁止し、すべての生成システムがインタラクションにおける人工的および総合的な属性を明確にすることを要求しています。同時にマイクロソフトは、エンタープライズレベルのAI自動化を推進する過程で、特別な「労働力の回復力とスキル変革の評価メカニズム」を設立することを約束している。製品の商業的収益を測定する一方で、テクノロジーの代替が労働者の生活にもたらす構造的ショックも体系的に評価し、単純かつ残酷に雇用をなくすのではなく、労働者の創造性を高めることを目指した責任ある製品設計を促進する。
マイクロソフトは、技術アーキテクチャ側に保護のレッドラインを設定することに加えて、この一連の人文主義原則を企業法務、サプライ チェーン、ビジネス協力の前提条件にまで高めました。 Microsoftの幹部らがガイドラインを発表した際、同社はAI製品ライン全体でこれらの原則を厳格に実施するだけでなく、外部の大型モデルパートナー、テクノロジー認定顧客、エコロジーアプリケーション開発者のコンプライアンス審査を審査委員会を通じて実施し、人道原則に明白に違反したり、制御不能な悪意のある自律的な動作を開発したり、秘密操作の傾向があるAIプロジェクトについては、テクノロジーの供給を遮断したり協力を停止したりすると述べた。
業界観察者や技術倫理学者は、大手テクノロジー企業が超知能 (AGI)、さらには超人的知能の研究開発のスピードを競い合っている状況の中で、マイクロソフトが「人間主義的な AI」という価値の基盤を正式に確立し推進していると指摘しました。これは、政界における AI の独占禁止法と安全性の監督がますます厳しくなる最近の傾向に対する積極的な対応であるだけでなく、技術軍拡競争において倫理的な優位性を獲得するための重要な戦略的措置でもあります。このコードの実装により、アルゴリズムのコンピューティング能力の盲目的な崇拝とテクノロジー業界における人間中心の主張との間に重要なバランスラインが引かれました。その後の多数の市販製品への具体的な導入の取り組みや最先端の将来を見据えた研究は、テクノロジー大手による自己倫理抑制の有効性を調べるための業界のベンチマークにもなるだろう。
コメント