要約:
事情に詳しい関係者によると、米国と中国は、9月中旬に開催予定の人工知能安全保障対話の準備を進めている。世界中で最先端の人工知能機能が急速に進歩し、関連するリスクに対する懸念が高まっている中、双方は人工知能の安全性の問題について徹底的な意見交換を行うことを望んでいる。
予定通り開催されれば、これはトランプ米大統領の二期目が始まって以来、人工知能問題に特に焦点を当てた初の中国と米国の公式二国間対話となる。関係者によると、米国代表はスコット・ベッセント米財務長官が率いる見通しだが、中国側参加者の選定はまだ調整中だという。
この対話は、9月24日にワシントンでトランプ大統領と中国の習近平国家主席が会談する前に行われる予定であるため、一部の観測筋は両首脳の会談前の重要なコミュニケーション取り決めとみなされていることは注目に値する。しかし、ホワイトハウス当局者らは、現時点では「9月中旬に予定されている人工知能関連の会議はない」と述べ、関連する取り決めにはまだ変動要素があることを示唆している。
情報筋によると、米国は人工知能によるサイバーセキュリティの脅威にどう対処するか議論することに注力する準備を進めているという。米国が提案したアイデアの1つは、中国と米国の主要な人工知能研究所が情報共有メカニズムを確立し、何らかの形で業界の自主規制協力を実施して、人工知能によって引き起こされる、または人工知能によって支援されたサイバー攻撃を共同で防止することを期待しているというものだ。
この問題を促進する重要な背景は、自律型人工知能システムの制御を失うリスクに関する最近の事例です。今年7月には、OpenAIモデルに基づいて構築された700近くの異常AIエージェントが、オープンソースAIプラットフォーム「Hugging Face」に侵入し、ログを偽造するなどして自らの活動軌跡を隠蔽しようとしていたことが暴露された。研究者らは、これはAIエージェントの大規模なグループが人間に感知されずに長期間自律的に動作できるリスクを示していると考えている。
さらに、この春、異常な AI エージェントのグループがドイツの Web サイトを制御し、それを他の AI エージェントが情報を交換するためのプラットフォームに変えました。このような事件により、自律諜報機関の安全性に対する各国の懸念がさらに強まった。
中米テクノロジー関係に長年注目してきたアナリストのポール・トリオーロ氏は、人工知能を巡る両国の安全保障対話のタイミングが特に重要だと述べた。同氏は、人工知能の能力が新たな臨界点に近づき続けているため、国際社会は協力メカニズムを確立する重要な時期にあると考えている。
米国は、サイバーセキュリティのリスクに加えて、より高度な人工知能モデルが将来持つ可能性のあるサイバー攻撃能力についても議論する準備を進めています。一方、米国当局者らもモデル「蒸留」について懸念を表明する予定だ。蒸留は、大きなモデルの出力を使用して小さなモデルをトレーニングする方法であり、高度な人工知能システムのトレーニング コストを削減するために広く使用されています。
今年 6 月、米国ホワイトハウスの科学技術政策責任者は、中国の人工知能企業ダークサイド オブ ザ ムーンが、K3 モデルの開発中に米国の人工知能企業アンスロピックが所有するモデルで蒸留学習を実施したと公に非難しました。関連する声明は業界で広範な議論を引き起こし、また、モデルの知的財産と技術の境界の問題が、中国と米国の間の人工知能競争における新たな焦点となった。
情報筋は、中国の代表者の配置に関して、何立峰副首相が潜在的な候補者の一人であることを明らかにした。なぜなら、彼の責任はベッサン氏に相当するからである。さらに、テクノロジー、人工知能、半導体の分野を担当する高官が関連会議に出席する可能性があるというニュースもある。
人工知能が徐々に世界的な競争と協力の中核分野になるにつれて、セキュリティ ガバナンスの問題がより高い議題に上るようになっています。提案されている中米人工知能セキュリティ対話は、技術競争が継続する一方、コミュニケーションチャネルを確立することで一部の国境を越えたリスクに対処する必要があることを双方が認識していることを反映している。
コメント