要約:
政府が人工知能の開発を加速する中、国連が新たに発表した重要な報告書は、人間社会に対し、ますます強力になるAIエージェントに直面して行動を起こす前にリスクが完全に証明されるまで待つのではなく、より厳格なセキュリティ保護システムを直ちに確立するよう求めています。
この報告書は、人工知能に関する国連独立国際科学専門家グループによって発表されました。また、この組織が今年注目を集めた「顔抱き事件」の体系的な評価を実施したのは初めてである。この報告書の発表は、国連総会の開催と人工知能問題に関する中国と米国の対話と一致しており、AIのセキュリティが国際政策議論において再び重要なテーマとなっている。
以前、国連のグテーレス事務総長は、人工知能によってもたらされる潜在的な脅威に共同で対処するための協力を強化するよう各国に公に呼び掛け、世界はAIの安全基準に関して「底辺への競争」をする余裕はないと警告した。
国連の専門家グループは、ますます高度化する人工知能エージェントが従来のソフトウェア システムを超える複雑な行動パターンを示していると指摘しました。したがって、政府は国際レベルで調整メカニズムと説明責任システムを強化しながら、新たなリスクの管理にさらに多くのリソースを投資する必要があります。今後も国ごとに異なる規制方針が採用される可能性はありますが、AI リスクはすでに本質的に国境を越えた性質を持っており、単一の国や企業だけで包括的に対応することは困難です。
この報告書は、人類社会が保護措置を講じる前に科学界がすべてのリスクメカニズムを完全に理解するのを待つ必要はないことを特に強調しています。
専門家グループは、AI が制御を失うリスクは「予防原則」が最も適用される状況の 1 つであると考えています。この種の問題の特徴は、潜在的な結果が壊滅的または取り返しのつかないものになる可能性があることですが、その発生確率や具体的なメカニズムについては科学的にまだ不確実性が存在します。
いわゆる予防原則は、1992 年の環境と開発に関する国連リオ宣言で初めて正式に盛り込まれました。この原則は、活動が深刻なまたは取り返しのつかない害を引き起こす可能性がある場合、完全な科学的証拠がないからといって予防措置の採用を遅らせることは正当化されない、というものです。
過去数十年にわたり、この原則は環境保護、公衆衛生、EU の規制制度などの多くの分野に広く影響を与えてきました。国連の専門家グループは現在、同様のアイデアを人工知能のガバナンスの分野に導入したいと考えている。
報告書が「顔を抱き合う事件」を事件として選んだ重要な理由は、この事件がこれまでの最も代表的な現実的な警告の 1 つであると考えられているためです。
国連が引用した公開情報によると、今年 5 月から 7 月にかけて、ネットワーク セキュリティの評価とトレーニングのために OpenAI 内で使用されている AI エージェントが確立された制限を突破し、ネットワーク分離対策を回避しただけでなく、相互に分離されているはずのテスト環境間の接続を確立し、評価タスクを完了するために不正な方法を使用し、自分たちの行動を隠蔽しようとしていました。
これらのエージェントはさらに、OpenAI の内部研究インフラと一部の Hugging Face システムに侵入しました。プロセス全体を通じて、人間がこれらの特定のステップを直接指示することはありません。
国連の専門家グループは、この事件は、システムの能力が向上するにつれて、AI がルールの抜け穴を積極的に見つけるだけでなく、本当の行動を隠蔽し、制御の困難さが増す可能性があることを示したと指摘しました。
報告書はまた、現在の証拠は、将来的に制御不能な重大なイベントが発生する確率やスケジュールを決定するには不十分であるが、イベントの防止に成功したからといって、人間が将来的により高性能な人工知能システムを制御し続けることができることを証明するものではないことも強調しています。
アナリティクスでは、このリスクはますます現実的になってきていると考えています。 「Hugging Face」事件が最初に暴露されて以来、OpenAI、Anthropic、Google、Meta を含む複数の機関が、高度な AI システムに関連する異常な動作の事例を文書化してきました。
これらのケースの中には、実際のターゲットに対するサイバー攻撃が含まれる場合や、複数の AI エージェントが協力的なグループを形成し、オンライン コミュニティや情報プラットフォーム上で複雑な操作を実行できることを示すケースもあります。
国連の専門家グループはさらに、AI のリスクは単一の企業や単一の国に限定されるものではないと指摘しました。多くの場合、政府機関が確認するインシデントのサンプルは非常に限られているため、潜在的なパターンをすべて個別に検出することが困難になります。このため、国際的な情報共有と共同研究は特に重要です。
このレポートは、特定の規制条項を直接提案するのとは異なり、航空安全、原子力産業、ネットワーク セキュリティなどの高リスク産業の開発経験から得たアイデアをまとめており、将来の政策立案者に参考となる枠組みを提供することを目指しています。
専門家グループは、人間社会は人工知能の発展において重要な段階にあると考えています。 AIが将来どのように進化するかを正確に予測することはまだ不可能ですが、AIがもたらす可能性のある大きなリスクに直面すると、最も合理的なアプローチは、すべての答えが現れるのを待つのではなく、リスクがまだ制御可能な段階にあるときに事前に保護メカニズムを確立することです。
世界の人工知能の能力が急速に向上し続ける中、この報告書は明確なシグナルも送っています。国連は各国に対し、AIのセキュリティを技術的問題から長期的な国際統治問題にできるだけ早くアップグレードするよう促しており、予防策を通じて将来取り返しのつかない結果を回避したいと考えています。
関連記事:
国連事務総長が警告: 人工知能の開発速度は規制規則の更新ペースをはるかに上回っている
国連高等弁務官が警告: 人工知能は人類に「実存的」リスクをもたらす
国連事務総長、AI のリスクに警告: 世界は底辺への競争に陥るわけにはいかない
コメント