要約:
マイクロソフトのブラッド スミス社長は、現在の人工知能の監視は十分とは程遠く、牛乳や洗濯機などの一般消費者製品の監視よりもさらに不十分であると述べました。同氏は各国に対し、一部の人工知能製品が正式にリリースされる前に、人工知能システムが制御不能になって損害を引き起こした場合に被害者に通知すること、事故報告書を提出すること、独立評価機関による審査を受け入れることなどを企業に義務付けることなど、世界的な人工知能の安全規則を早急に確立するよう求めた。
スミス氏のこの立場は、ドナルド・トランプ米国大統領の主張とは明らかに対照的である。トランプ大統領は、米国企業が中国の競合他社と競争する能力を弱める政府の過度な介入を避けるために、人工知能業界は主に独自の規制に頼るべきだと考えている。スミス氏は、人工知能にはツールと武器の両方の特性があり、リスクを制御するために企業の自己規律だけに依存し続けることはできないと考えています。
「洗濯機には人工知能よりも多くの安全規則が適用されるようになりました」とスミス氏は BBC のビッグボスインタビューポッドキャストで語った。 「食料品店で見かけるすべての牛乳パックは、安全規則と検査の対象となります。」
彼は、人工知能の発展が行動を起こさなければならない段階に達したと信じています。各国は、重大な事故が発生するまで待って対応方法を議論するのではなく、他の業界の規制経験から学び、人工知能技術に適した安全システムを確立する必要があります。
近年、人工知能モデルの機能が急速に向上するにつれて、業界の規制強化を求める声が高まっています。人工知能分野の一部の専門家は、このテクノロジーが人間社会の長期的な安全に脅威を与える可能性があるとさえ警告しています。人工知能がもたらす可能性のあるサイバーセキュリティのリスク、制御不能な行動、その他の潜在的な害に焦点を当て、業界内では技術開発を減速すべきかどうかについての議論も始まっている。
アメリカの人工知能企業 Anthropic、OpenAI、Google DeepMind のトップは全員、人工知能の開発に対するより慎重なアプローチを支持しており、特定の状況下で技術の研究開発を遅らせることを支持する人もいます。しかし、トランプ大統領は米国の人工知能産業の発展を制限する可能性のある措置に常に反対しており、米国はこの技術競争で優位に立つ必要があると繰り返し強調してきた。
スミスは、人工知能を単に通常のソフトウェア製品と見なすべきではないと考えています。人工知能エージェント システムがより強力な自律実行機能を獲得し、先進的なモデルがサイバーセキュリティの分野で影響力を増すにつれて、関連するリスクには政府、企業、独立評価機関が共同で対応する必要があります。
同氏は企業に対し、人工知能システム用の緊急ブレーキ機構（業界では「キルスイッチ」と呼ばれることが多い）を設定するよう呼び掛けた。人工知能システムが制御不能に動作したり、重大な結果を引き起こす可能性のある操作を実行し始めた場合、企業はリスクのさらなる拡大を防ぐために、適時にシステムの操作を停止したり、操作速度や権限を削減したりできる必要があります。
スミス氏はまた、強制的な事故報告システムも提唱しています。人工知能エージェントが制御を失って他のシステムに侵入したり、異常な動作によりユーザーに損害を与えた場合、関連企業は法律に従って事件を報告し、影響を受ける個人や組織に通知する必要があります。
彼は、これらの対策は人工知能の安全規制システムの一部となるべきであり、企業の自発的な行動に依存するだけではいけないと考えています。
さらに、Smith 氏は、特定の高リスクの人工知能製品がリリースされる前に、システムが関連するセキュリティ要件を満たしているかどうかを判断するために、政府に認められた独立した評価者によってレビューされるべきであると提案しました。これは、すべての人工知能製品が同じレベルの監督を受けなければならないという意味ではなく、リリース前に独立した評価が必要かどうかは、製品の機能、使用シナリオ、潜在的なリスクに基づいて決定されるべきであるということです。
スミス氏は、他の業界も同様の安全管理メカニズムを確立しており、人工知能の監督はこれらの成熟した経験から学ぶことができると述べました。彼は、既存のリスク評価、事故報告、製品安全システムを人工知能の分野に合理的に適用することが鍵であると考えています。
国際的な人工知能ルールの推進において、スミス氏は英国の役割について特に楽観的です。
同氏は、英国が人工知能の安全性問題を専門とする機関を設立したと指摘した。この機関はもともと、リシ・スナック元首相の政権中に人工知能セキュリティ研究所として発足し、後に人工知能研究所（AIセキュリティ研究所）に改名され、高度な人工知能システムの機能と潜在的なリスクの研究を担当しています。
スミス氏は、英国には人工知能の安全性評価において強い技術力があり、国際協力を促進する条件も整っていると考えています。同氏は、テクノロジー業界の人々に人工知能セキュリティ技術の能力でどの国がリードしているかと尋ねれば、多くの人が迷わず英国を選ぶだろうと述べた。
彼は、英国にはその研究能力と国際的な影響力を利用して、各国が人工知能の安全性に関するより統一されたルールを確立することを促進する機会があると信じています。
スミス氏の見解は、人工知能の開発の加速を重視するトランプ政権の政策方向性とは異なります。トランプ大統領は、人工知能の競争で勝った者が未来を勝ち取ると繰り返し述べてきた。この姿勢は、規制の障壁を軽減し、企業投資を奨励し、技術応用を拡大することで、人工知能分野における米国の主導的地位を強化したいという米国政府の願望を反映している。
しかし、スミス氏は、米国政府が英国主導の人工知能規制構想を確実に拒否するとは考えていません。
同氏は、英国とEUに対する米国政界の態度に違いがあると指摘した。ワシントン、英国、ロンドンでは通常、ブリュッセルやEU機関ほど政治的反発を引き起こすことはない。スミス氏は、この関係の違いが英国による国際的なAI安全基準の推進において有利になる可能性があると考えている。
同氏は、人間の制御を逃れる可能性のある人工知能エージェントや、世界的なネットワーク セキュリティに脅威をもたらすほど強力なモデルなど、注目に値するリスク信号が十分に存在していることを強調しました。
人間の制御を超えた人工知能エージェントや、世界のサイバーセキュリティを侵害するほど強力なモデルを目にしたとき、機は熟したと言えるでしょう」とスミス氏は語った。
同氏はすべての関係者に対し、冷静かつ毅然とした態度をとり、できるだけ早く対話を開始し、政府、企業、研究機関が共同で関連ルールを策定するよう促すよう求めた。同氏はまた、マイクロソフトがこのプロセスで役割を果たすことができ、英国が国際協力を促進する役割を担うことができるとの期待を表明した。
スミス氏が業界の自主規制の価値を完全に否定したわけではないことは注目に値します。先月末、トランプ大統領はホワイトハウスでOpenAI、Anthropic、NVIDIA、SpaceX、Meta、Googleといったテクノロジー大手のトップと会談した。会議に出席した企業幹部らは、人工知能システムが期待どおりに動作しているかどうかを評価し、システムが意図しない方法で技術システムに侵入したりアクセスしたりしないようにするために独立監査人と協力することに同意する倫理文書に署名した。
この文書は、人工知能企業がセキュリティレビューを強化し、独立した評価を通じて潜在的な問題を特定することを促進することを目的としています。その拘束力は正式な法律や規制とは異なりますが、セキュリティガバナンスの観点からは依然としてテクノロジー業界によって行われる措置とみなされます。
スミス氏はこの声明に感謝の意を表し、マイクロソフトは関連文書に署名する用意があると述べた。これは良いスタートであり、必要なステップであると彼は信じています。
しかし、彼の見解では、この種の自発的な取り組みだけに依存するだけではもはや十分ではありません。
スミス氏は、いかなる自主規制システムも根本的な問題に直面するだろうと指摘しました。責任ある企業は通常、安全要件を遵守することに前向きですが、本当の懸念は、責任感に欠け、安全対策を積極的に講じようとしない企業です。
業界全体が自主的な取り組みのみに依存する場合、ルールを遵守する企業がより多くのコストを負担する一方、安全性の確保にリソースを投資することに消極的な競合他社が急速に拡大し続ける可能性があると同氏は考えています。したがって、法的拘束力のある最低安全基準を確立することは、すべての企業が基本要件を満たさなければならないことを保証するのに役立ちます。
これはスミス氏が強調した中心的な問題でもあります。人工知能の規制は、企業が責任を負うかどうかに依存するだけでなく、企業が果たすべきセキュリティ義務と、システム内で重大な問題が発生した場合にどのような措置を講じる必要があるかを規定する明確なシステムを確立する必要があります。
AI エージェントが複雑なタスクを実行し、外部ツールを呼び出し、技術システムにアクセスできるようになると、ソフトウェア セキュリティ管理に対する従来のアプローチを適応させる必要があるかもしれません。将来の規制システムでは、モデル自体に欠陥がないかどうかに注意を払うだけでなく、実際の動作時に人工知能がどのような権限を取得できるか、どのリソースにアクセスできるか、異常な動作が発生した場合に動作を一時停止できるかなどを考慮する必要があります。
Microsoft にとって、この問題はビジネス上直接的な重要性もあります。 Microsoft は、人工知能インフラストラクチャとモデル アプリケーションの重要なプレーヤーであると同時に、エンタープライズ レベルのクラウド コンピューティングとソフトウェア サービスの大手プロバイダーでもあります。人工知能システムのセキュリティ、信頼性、制御性は、企業顧客が関連テクノロジーをビジネス プロセスに広く導入する意欲があるかどうかに直接影響します。
スミス氏の声明は、米国のテクノロジー業界内でさえ、人工知能をどのように規制すべきかについて完全なコンセンサスがないことを示しています。一部の企業や政策立案者は、イノベーションと商業化を加速するために可能な限り制限を軽減したいと考えています。技術力が向上するにつれて、より明確なセキュリティ責任とリスク管理メカニズムを同時に確立する必要があると考える人もいます。
この議論の鍵は、人工知能の開発を支援するかどうかだけではなく、技術の応用が個人、企業、社会に許容できないリスクを引き起こさないようにしながら、イノベーションをどのように促進するかということです。
牛乳や洗濯機の例から、緊急ブレーキ機構、事故報告書、独立した評価に至るまで、スミスが伝えようとしているメッセージは明らかです。人工知能の技術開発は、既存の規制システムの調整速度よりも速いということです。各国が人工知能から経済的および社会的利益を享受し続けることを望むのであれば、各国の能力とリスクに見合った安全ルールをできるだけ早く確立する必要があります。
彼の見解では、単に企業の自主規律に頼るだけでは、この問題を解決するには十分ではありません。真に効果的な規制制度は、責任ある企業が革新を続けることを奨励するだけでなく、リスクを積極的に管理しようとしない参加者を抑制するものでなければなりません。
コメント