要約:
最先端の人工知能システムの機能が飛躍的に向上し、汎用人工知能 (AGI) テクノロジーが加速的に進歩する中、Google とその人工知能研究開発機関である Google DeepMind の研究チームは最近、「DeepMind Institute」の設立を正式に発表しました。この組織は、AGIの安全保障境界、社会統治メカニズム、包括的な配当分配に関する公開討論の次元を広げるために、学際的な力と多様な視点を結集する世界的な対話プラットフォームを構築することを目指しています。
生成型 AI と自律エージェント (AI エージェント) の急速な進化を背景に、AGI がいつ実現するか、リスクをどのように制御するかに関する議論は、学問的な演繹から世界的な科学技術政策の中核問題へと発展しました。しかし、長い間、一般的な人工知能をめぐる主要な議論は、シリコンバレーのトップ研究所の少数のエンジニア、投資家、非公開の意思決定者によって独占されることがよくありました。テクノロジーの進化、労働構造の変化、地域を超えた利益のバランスがもたらす長期的な社会的影響に対する外部の参加は依然として限られています。 DeepMind Research Institute の設立は、まさにこの閉鎖的な技術エリートの文脈を打ち破り、より多様な世界の声を導入することを目的としています。
新たに設立された研究所は、DeepMind の共同創設者で AGI 主任科学者のシェーン レッグ氏を含む、多くの上級リーダーや一流の学者によって共同で率いられていると報告されています。 AGI の概念を初期に定義した主要なテクノロジーの先駆者の 1 人として、レッグ氏は、コンピューティング能力とアルゴリズムのブレークスルーを促進しながら、将来を見据えたセキュリティ評価と倫理的フレームワークの確立を長年提唱してきました。新しい研究所は学際的な研究に基づいており、コンピューター科学者や認知専門家の洞察を吸収するだけでなく、経済学者、社会科学者、法律専門家、政策立案者、市民社会組織の代表者を幅広く結び付け、超知能が引き起こす可能性のある体系的な影響を共同で研究し、判断することになる。
具体的な研究と活動の議題について、DeepMind Research Institute は 3 つの中核分野に焦点を当てる予定です。1 つは、技術的側面からの AGI セキュリティ検証と制御理論であり、自律エージェントの脱線や調整の失敗などの極端なセキュリティ シナリオに対処するメカニズムを調査します。第二に、最先端技術の包括的かつ公正なガバナンス。AGI の将来を確保する方法を検討します。生み出された膨大な生産性と経済的価値は、地理的格差や階級的格差を悪化させるのではなく、全人類が広く共有することができます。第三に、世界的な規制対話を促進し、さまざまな国の公的意思決定機関が技術革新とリスク防止を考慮したガバナンスのベースラインを構築できるよう支援します。
業界アナリストらは、大手 AI 大手企業が一般に最先端の大型モデルの商品化とコンピューティング能力の競争を加速させている中、Google DeepMind は独立した学術および政策の議論プラットフォームの設立で主導権を握ることを選択し、最先端の AI の長期的な社会的責任を再検討していることを示していると指摘しました。 AGIの議論を単一の技術ブームから社会全体にわたる包括的で合理的な多次元の対話へと推し進めることにより、AGIは、将来の超インテリジェント技術のコンプライアンス実施とグローバルガバナンスに対する重要なイデオロギーの青写真とシンクタンクのサポートを提供することが期待されている。
コメント