要約:
米国と中国は多くの分野で戦略的競争を行っているが、テクノロジー系メディアの報道によると、米国は国家安全保障に重大な脅威をもたらす可能性のある危険な人工知能事件が発生した場合に、相互に早期警告を発するための安全保障通知メカニズムを中国と確立しようとしているという。
このアイデアは、Atlantic Council と Security Exploration International が共同で提案したものです。このメカニズムの中心的な目標は、特別な早期警戒チャンネルを確立することで、人工知能のセキュリティに関する重大な事件が地政学的危機や軍事紛争に発展する前に、両国がタイムリーに連絡できるようにすることです。報告書は、人工知能技術の急速な進化により、自動化システムは人間による直接制御がなければ予期せぬ重大な結果を引き起こす可能性が非常に高いため、そのようなコミュニケーションブリッジを確立することが重要であると指摘した。
提案によると、通知メカニズムは高リスク シナリオの 4 つの主要なカテゴリに焦点を当てています。
まず、自律型 AI システムが制御を失い、現実世界に深刻な損害を引き起こします。
第 2 に、核兵器、化学兵器、生物兵器などの大量破壊兵器に関連する AI の安全事故。
第三に、高リスクの AI モデルまたは関連コア テクノロジーの偶発的な漏洩。
第 4 に、大規模な AI ネットワーク攻撃が重要なインフラを標的にし、壊滅的な打撃を与えます。
専門家の分析は、このメカニズムを確立するという考え方は、冷戦時代に核戦争の勃発を防ぐために米国とソ連によって確立された「レッドライン」の直接電話通話に非常に似ていると指摘しました。中国と米国のテクノロジー企業と研究機関はすでにAIのセキュリティ基準とリスク管理に関する予備対話を行っているが、この協力を正式に政府レベルのセキュリティメカニズムに昇格させることができれば、間違いなく技術的な判断ミスによって引き起こされる重大な国際危機のリスクが大幅に軽減され、世界的なAIガバナンスに対する重要な支援となるだろう。
コメント