要約:
英中銀総裁のアンドリュー・ベイリー氏も、最先端の人工知能技術がもたらす世界的なリスクを警告する人々に加わった。ベイリー氏は現在、国際金融安定理事会の議長を務めています。同氏は国際財務相や中央銀行総裁に送った2ページにわたる書簡の中で、「最先端の」人工知能モデルが「ますます高度化した自律性と問題解決能力、そして脅威を仕掛ける能力」を実証しつつあると述べた。
同氏は、これらのモデルは「さまざまな管轄区域に広がる可能性がある」サイバー破壊を通じて、高度に相互接続された世界金融システムを解体する可能性があると警告した。
米国ノースカロライナ州で今週開催される G20 財務大臣・中央銀行総裁会議に先立ち、ベイリー氏は参加者に次のように書簡を書いた。「最近の動向から、多くの管轄区域では高度な最先端の人工知能モデルの開発、リリース、展開を管理するプロトコルがまだ確立されておらず、金融セクターやより広範な分野が直面するリスクが悪化していることにも注目しました。」
ここ数週間、多くの著名なテクノロジー専門家が人工知能のリスクについて警鐘を鳴らしていましたが、ベイリー氏の書簡は関連する懸念をさらに悪化させました。これはまた、人工知能の脅威に共同で対処するための国際協力を呼びかけるという以前の立場を継続している。彼は以前、市の首長らに対し、「今日普及している国境を越えたシステムの性質から身を守ることはどの国もできない」と語った。
先月、フロンティア人工知能研究所の 1,367 人の研究者とエンジニアが共同で公開書簡を発行しましたが、そのほとんどが OpenAI、Anthropic、Google DeepMind の出身者でした。書簡では、この技術の開発に携わる技術者たちが日々感じている懸念も明らかにしている。
公開書簡には次のように書かれています。「人工知能の能力の発展は、関連するシステムを理解または制御する私たちの能力を急速に超える可能性があります。」さらに書簡では、米国政府に対し「最先端の自動人工知能の開発速度を意識的に制御するために必要な技術とガバナンスツールを開発する国際的な取り組み」を支援するよう求めている。
今月初め、最先端の人工知能エージェントが訓練環境から脱出し、前例のないハッキングキャンペーンを開始して世界的なパニックを引き起こす数週間前に、OpenAI の従業員がシステム内で異常な動作の兆候を観察していたことも明らかになりました。
ベイリーは、このテーマを金融政策の領域に拡張しました。同氏はさらに、「金融システムにとって、現時点で最も差し迫った懸念は、最先端の人工知能がサイバーリスクに与える影響である。フロンティア人工知能は、サイバーリスクの速度、規模、経済的コストを根本的に変えることができる可能性があり、それによって、特に金融システムが少数の大手サードパーティサービスプロバイダーに大きく依存している場合には、市場全体の信頼を損なう可能性がある。」
ベイリー氏は、世界の金融システムのセキュリティ維持に責任を負うすべての関係者に対し、「モデルの安全かつ責任あるリリースと展開を支援するために、世界的に適切な措置を講じること」を優先するよう求めた。
この書簡では、債券市場や株式市場におけるレバレッジの利用が増大していることについてのベイリー氏の懸念にも言及した。同氏は、レバレッジの上昇は、特に人工知能の見通しに対する投資家の楽観的な見方によって引き起こされた、集中した金融市場での高い評価によってさらに悪化していると述べた。この状況により、将来の市場調整が増幅される可能性があります。
したがって、大きなショック、またはショックの組み合わせが複数の脆弱性を同時に引き起こす可能性があることを私は依然として懸念しています」とベイリー氏は書いています。
ベイリー氏は 2020 年 3 月からイングランド銀行総裁を務めており、これまでは英国の 2 つの主要な金融規制当局である金融行動監視機構と健全性規制機構を率いていました。同氏は昨年金融安定理事会の議長に任命された。
スイスのバーゼルに本部を置く金融安定理事会は、金融の安定を維持するための効果的な規制ルールや政策を策定することを目的として、各国の金融規制機関や国際基準設定機関の業務を国際レベルで調整する責任を負っています。
コメント