米国、英国、オーストラリア、その他15か国は、人工知能モデルを改ざんから保護するための世界的なガイドラインを発行し、自社のモデルを「安全な設計」にするよう企業に求めている。 11月26日、18カ国は、このペースの速い業界では「セキュリティは二の次の考慮事項であることが多い」と主張し、人工知能モデルを開発または使用する際に人工知能企業がサイバーセキュリティ問題にどのように対処すべきかを概説した20ページの文書を発表した。

このガイドラインには主に、AI モデルのインフラストラクチャの厳格な管理、リリース前後のモデルの監視、サイバーセキュリティ リスクに関する従業員のトレーニングなど、一般的な推奨事項が含まれています。

しかし、人工知能の分野で物議を醸している特定の問題については言及されていない。これには、画像生成モデル、ディープフェイク、またはデータ収集方法の使用に対する規制の可能性や、モデルのトレーニングでのそれらの使用が含まれており、この問題については複数の人工知能企業が著作権侵害で訴えられている。

米国土安全保障省のアレハンドロ・マヨルカス長官は声明で、「私たちは人工知能の開発において転換点にあり、人工知能はおそらく現代で最も影響力のある技術となるだろう。サイバーセキュリティは、安全で信頼できる人工知能システムを構築するための鍵である」と述べた。

このガイドラインは、AI開発に関する合意を調整するために今月初めに政府とAI企業がロンドンで開催したAI安全サミットなど、AIに配慮する他の政府間の取り組みに追随している。

一方、欧州連合はこの分野を監視する人工知能法案の詳細を詰めており、ジョー・バイデン米国大統領は10月にAIの安全性とセキュリティの基準を定める大統領令を出したが、どちらの命令もイノベーションを抑制する恐れがあるとしてAI業界から反対された。

新しい「Safe by Design」ガイドラインの他の共同署名国には、カナダ、フランス、ドイツ、イスラエル、イタリア、日本、ニュージーランド、ナイジェリア、ノルウェー、韓国、シンガポールが含まれる。 OpenAI、Microsoft、Google、Anthropic、ScaleAI などの人工知能企業もガイドラインの開発に貢献しました。