人工知能企業 Anthropic は、同社の最新の人工知能モデルによって発見された世界金融システムのサイバーセキュリティ防御の脆弱性を、各国の主要財務省と中央銀行に報告することに同意した。関係者２人によると、この取り決めはイングランド銀行（中央銀行）のアンドリュー・ベイリー総裁からの要請に基づいたものだという。金融安定理事会の委員長も務めるベイリー氏は、Anthropic が新しい ClaudeMythos プレビュー人工知能モデルの機能を委員会のメンバーに紹介することを期待しています。
金融安定理事会は、G20諸国の財務省当局者、中央銀行当局者、証券監督者を結集する世界的な金融規制機関です。メンバーには、米国、英国、カナダ、フランス、ドイツ、日本、サウジアラビア、オーストラリアおよびその他の国の関係者が含まれています。
委員会の多くのメンバーは、ミトスや他の米国テクノロジー企業が開発した同様の人工知能モデルが金融機関のネットワーク防御システムの弱点を悪用し、それによって世界の銀行システムに潜在的なリスクをもたらす可能性があるとの懸念を強めている。
Anthropic は先月、Mythos がすべての主要なオペレーティング システムと Web ブラウザーで数千の高リスクのセキュリティ脆弱性を発見したと発表しました。同社はまた、こうした脆弱性が問題を引き起こした場合、経済発展、公共の安全、国家安全保障に深刻な影響を与えるだろうと述べた。
この技術が悪者の手に渡るという大きなリスクに対する懸念から、Mythos は現在少数の機関のみに公開されており、ユーザーのほとんどは米国の機関です。しかし、これは他の地域の多くの企業や規制当局も懸念しており、さまざまな地域でネットワーク セキュリティ保護のレベルに不均衡が生じています。
現在、世界中の多数の機関が Mythos の使用、またはモデルの関連機能についての学習の許可を申請しています。アンスロピックは、欧州委員会を含む一部の米国以外の機関にハイレベルの説明を提供することに同意した。
現在、Mythos の使用を承認されている機関は、Amazon、Microsoft、JPMorgan Chase など約 40 機関だけです。これらの機関は、このモデルを使用してシステムの脆弱性のトラブルシューティングと修正を行うことができます。ホワイトハウスの要請により、アンスロピックはこのモデルを大規模に推進しないことを約束した。
金融安定理事会は、金融業界における人工知能の適用に関する規範的および実践的なガイドラインを整理する報告書を作成中で、来月草案を公表してパブリックコメントを募る予定である。金融安定理事会とアンスロピックは両者とも、両者間の最近のやりとりについてコメントを拒否した。
各国の規制当局は銀行やさまざまな金融機関に、ネットワークセキュリティシステムを包括的に調査し、できるだけ早くシステムパッチをプッシュしてインストールし、新しい人工知能モデルによって明らかになったさまざまなセキュリティ脆弱性を修復するよう求めています。
英国財務省と金融規制当局も最近、ロンドン市内のさまざまな金融機関に対し、ネットワークセキュリティのリスクを軽減するために、最先端の人工知能技術によって引き起こされるより迅速で破壊的なサイバー攻撃を防ぐための積極的な対策を講じるよう要請した。
しかし、現在の地政学的な緊張のため、一部の規制当局は、人工知能によってもたらされる安全保障の脅威に対して世界が統一的かつ協調的に対応することは困難であると考えている。
今月初め、国際通貨基金は各国の政策立案者に対し、新世代の人工知能モデルによって明らかになったサイバーセキュリティの脆弱性に共同で対処するための国際協力を強化するよう呼び掛けた。
IMFは、新しい人工知能モデルがサイバーセキュリティのリスクを、マクロ金融ショックを引き起こす可能性のある重大な隠れた危険にまでエスカレートさせていると警告を発した。
IMF スタッフはブログ投稿で次のように書いています: サイバーセキュリティのリスクには国境は関係ありません。新興経済国と発展途上国は一般に資源が限られており、ネットワーク防衛能力が弱いです。これらはサイバー攻撃者の標的になる可能性が高く、より深刻な影響を受けることになります。