要約:
OpenAI は最近、英国政府に対し、法的拘束力のある人工知能の規制枠組みを策定し、最先端の最先端の人工知能モデルに対する強制的な安全規則の導入を義務付けるよう公的に求めました。この声明は、世界をリードするAI企業の監督に対する態度の新たな変化を示すものであり、英国における人工知能のガバナンスをめぐる議論もさらに加熱した。
OpenAI のヨーロッパ、中東、アフリカの政策責任者であるトム ダフ ゴードン氏はインタビューで、英国政府はより強力な人工知能の安全規制システムを確立するために直ちに行動を起こす必要があると述べました。同氏は、現在はまれな「政治的窓口期間」があり、英国はこの機会を利用して、最先端の人工知能システムに対する長期的で安定した法的拘束力のあるセキュリティ要件を法律を通じて確立すべきであると考えている。
OpenAI が提案した概念によれば、新しい規制制度は既存企業の自発的な取り組みに基づくべきですが、もはや企業の自主性に完全に依存するのではなく、強制力のある法的枠組みに移行することになります。同社は、そのような規制上の制約を受け入れる意向を表明し、最も強力な人工知能モデルを開発している企業は将来的にはより厳格な規制の範囲に含まれるべきであると考えました。
英国で人工知能に対する規制強化を求める声が急速に高まっている中で、この姿勢が打ち出された。過去数カ月間、多くの大手人工知能企業がモデルのセキュリティに関連するリスクインシデントを相次いで公表し、社会的、政治的懸念を引き起こしている。同時に、以前AnthropicとOpenAIで働いていた研究者は最近、一部の企業が「全員の命を賭けている」と述べ、退職後に業界の方向性を公に批判し、最先端のAIのリスクに対する外部世界の注目をさらに強めている。
実際、英国労働党は 2024 年の選挙綱領で、最も強力な人工知能モデルを開発する少数の企業に対して拘束力のある規制制度を確立すると約束しました。しかし、政権発足後、政府は徐々に大規模な統一立法の路線を放棄し、代わりに業界規制当局による分散管理と企業による自主的な安全性試験というモデルを採用した。現在、英国の人工知能安全性研究所は主にテクノロジー企業と協力してモデルテストを実施しており、正式な法執行権限を欠いている。
OpenAI は、既存のモデルだけに依存するだけでは将来のリスクに対処するのに十分ではないと考えています。ダフ・ゴードン氏は、英国が新たな法的枠組みを確立すれば、人工知能ガバナンスの分野でEUや米国の一部の新興規制制度と歩調を合わせることになると述べた。同氏は、米国もモデルの能力レベルに基づいた強制的な人工知能の安全監督計画を推進しており、OpenAIもこれを支持していると指摘した。
しかし、OpenAI はまた、新しい法律は AI 業界全体を対象とするものではなく、真にテクノロジーの最前線にある少数の研究所やモデルに焦点を当てるべきであるとも強調しました。同社は、新興企業や一般的なAIアプリケーションに同レベルの制限を課すのではなく、国家安全保障、サイバーセキュリティ、システミックリスクをもたらす可能性のある高度な人工知能システムに規制の重点を置くべきだと考えている。
OpenAI の推奨事項によれば、将来の法的枠組みには複数の核となる要素が含まれる必要があります。これらには、独立した第三者機関によるモデルのセキュリティテストの義務化、サイバーセキュリティ機能の厳格なレビュー、セキュリティインシデントの監視および報告システムの確立が含まれます。モデル内で重大な異常動作やリスク事象が発生した場合、開発会社は規定に従って規制当局に報告する必要があります。
OpenAI はまた、英国人工知能安全性協会が将来の規制システムにおいて中心的な役割を果たすことを推奨しています。同社は、この組織が豊富な技術経験と専門能力を蓄積しており、モデルの評価、基準の設定、継続的な監督などの重要な責任を担うことができると考えています。
さらに、OpenAI は、将来のルール設計が柔軟で適応可能であるべきであることを強調しています。 AI テクノロジーは非常に速いペースで発展しているため、規制の枠組みは厳格なモデルを採用すべきではなく、テクノロジーの進歩に基づいてタイムリーに調整できる必要があります。同時に、英国は国際標準の互換性を促進し、将来的には人工知能のガバナンスに関する世界的な合意形成の基礎を築くよう努めるべきである。
アナリストらは、この声明は人工知能業界が「規制反対」から「規制策定への参加」へと徐々に移行しつつあることを示していると指摘した。モデルの機能が向上し続け、セキュリティ紛争が増加し続けるにつれて、ますます多くの大手企業が法的拘束の必要性を受け入れ始めています。しかし、イノベーションの促進とリスクの管理の間でどのようにバランスを取るかは、今後も英国および世界の規制当局にとって中心的な課題となるだろう。
コメント