要約:
マイクロソフトのブラッド スミス社長は最近、各国に対し人工知能の規制を加速するよう改めて呼び掛け、人工知能企業に対する現在の監督は牛乳や洗濯機などの消費者製品ほど強力ではないと強調した。彼は、人工知能の能力が急速に強化されていることで、世界は統一されたセキュリティルールを策定する重要な時期に達していると考えています。
BBC ポッドキャストのインタビューで、スミス氏は人工知能を「ツールでもあり武器でもある」と表現しました。同氏は、人工知能は世界のネットワークセキュリティ環境に新たなリスクをもたらしているため、国際的なセキュリティ規制の枠組みを確立し、明確なルールを通じて業界の発展を制限する必要があると述べた。
スミス氏は、将来の世界的な人工知能セキュリティガバナンスシステムにおいて、米国や欧州連合よりも英国の方が主導的な役割を果たすのに適していると具体的に指摘した。同氏は、英国人工知能セキュリティ研究所（AISI）が2023年の設立以来急速に発展し、世界的な人工知能セキュリティテストの分野で重要な勢力になったと信じている。同庁は、米国の最先端研究所で新型モデルを入手し、正式に配備される前に独立した安全性評価を実施することができた。
しかし、このステータスは最近課題に直面しています。ドナルド・トランプ米大統領はこれまで、いわゆる「グローバリスト」機関が米国企業に干渉していると主張して批判してきた。メディア報道によると、トランプ大統領は先月、AnthropicとOpenAIに対し、米国の審査が完了するまで英国の検査機関への新モデルの提供を停止するよう要請した。しかし、英国の AI 安全性協会は今週、最新世代の AI モデルに依然としてアクセスしてテストできることを確認しました。
米国政府からの懐疑にもかかわらず、スミス氏は依然として英国には独自の利点があると信じています。同氏は、ワシントンの意思決定関係者の目には、英国とロンドンはブリュッセルのEU本部のような強力な規制勢力とはみなされないだろうが、これは英国が国際社会で調整の役割を果たし、すべての当事者間の合意を促進するのに役立つだろうと述べた。
スミス氏のコメントは、テクノロジー業界のリーダーが人工知能の開発ペースの減速を求める声が増えている中で出された。 Anthropic CEO の Dario Amodei 氏や OpenAI CEO の Sam Altman 氏らは最近、高度な人工知能のリスクについて懸念を公に表明しています。人工知能エージェント システムの異常な動作に関する複数のインシデントにより、セキュリティ問題に対する外部の懸念がさらに高まっています。
今年 10 月、トランプ大統領はまた、OpenAI、Anthropic、NVIDIA、AMD、SpaceX、Meta、Google の幹部をホワイトハウスに招集し、人工知能のセキュリティ問題について話し合いました。カンファレンスに参加する企業は、人工知能モデルの機能と安全性を評価するために独立した監査人と協力することを約束する、「倫理的拘束力のある」契約書に署名した。
この合意について、スミス氏は前向きな一歩であると信じていますが、真に効果的な監督にはまだギャップがあります。同氏は、業界の自主規制は多くの場合、責任ある企業を拘束するだけであり、本当の懸念はルールを遵守しようとしない企業であると指摘した。
スミス氏は、希望する一連の安全対策も提案しました。たとえば、企業システムが制御不能になった人工知能エージェントによって侵入された場合、関連機関は適時に警告を発する法的義務を負う必要があります。人工知能研究所は、新製品をリリースする前に、外部の独立した評価機関によって審査される必要があります。同時に、業界は、人間が制御を失った場合に人工知能システムの動作を一時停止または減速する「緊急停止スイッチ」などのメカニズムも研究する必要がある。
スミス氏はガバナンスの将来の方向性について語る際、すべての関係者に対し、より合理的で現実的な態度で協力を促進するよう呼びかけた。同氏は、マイクロソフトが世界的なコンセンサスの一部となり、英国が国際的な人工知能セキュリティ ガバナンス システムにおいて橋渡しとリーダーシップの役割を果たせることへの希望を表明しました。
関連記事:
マイクロソフト社長ブラッド スミス: AI は牛乳よりもさらに規制が緩い
コメント