要約:
9 月 29 日、トランプ大統領はホワイトハウスが推進する人工知能産業協定を発表した。この文書はトランプ大統領と多くの大手テクノロジー企業の幹部によってこれまでに署名されており、トランプ大統領は「道徳的拘束力のある」業界への取り組みであると述べている。
この 1 ページの合意は、トランプ大統領によって自身のソーシャル プラットフォーム Truth Social を通じて公表されました。この文書では、参加企業に対し、高度な人工知能システムの監督とリスク管理を強化するために、4層のセキュリティ管理と監査メカニズムを確立するよう求めている。
契約の要件に従って、企業はまず完全な内部管理システムを確立し、トレーニングおよび導入中に人工知能モデルの機能と調整を継続的に監視し、サイバーセキュリティ、バイオセキュリティ、化学リスクなどの分野に重点を置き、モデルがシステムに侵入したり予期せぬ方法で技術施設にアクセスしたりしないようにする必要があります。
この協定では、関連する制御、監視、検出メカニズムの運用を監督し、さまざまなセキュリティ対策が設計目標に従って機能することを確認し、潜在的な問題をタイムリーに特定して解決するための専任の社内チームを設立することも企業に義務付けています。
外部監督の観点から、この文書は、企業が独立した監査機関または評価機関と協力して、企業の人工知能制御および監視システムの独立した評価を実施し、これらのセキュリティ メカニズムが実際に期待される結果を達成しているかどうかを検証することを推奨しています。
さらに、この合意では、会社の取締役会レベルで独立委員会を設置することも提案されています。委員会は、内部チームと外部監査機関からの報告を受け取り、企業の人工知能セキュリティガバナンスを監督し、発見された問題に基づいて改善策の実施を促進する責任があります。
契約の署名に参加する企業には、Google、Anthropic、Meta、OpenAI、X Platform、NVIDIA など、米国の人工知能業界の重要な参加者が含まれます。トランプ氏自身が大統領として文書に署名した。
この協定では、業界の発展に伴い、将来的にはこれらの慣行を法的または規制上の要件として正式に制定する必要がある可能性があると指摘しています。ただし、政府が最終的に必須要件を導入するかどうかに関係なく、参加企業はこれらの管理および監査メカニズムの実装が人工知能の安全な開発を確保するために重要であると信じており、したがって関連措置を積極的に推進することを約束します。
この文書では、参加企業が定期的に会議を開催し、人工知能システムのセキュリティを継続的に向上させるために業界標準とベストプラクティスを共同で策定することも提案されています。
その日の早朝、トランプ大統領はホワイトハウスで多くのテクノロジー業界のリーダーと会談した。出席者には、OpenAI 共同創設者のグレッグ・ブロックマン氏、アンスロピック CEO のダリオ・アモデイ氏、メタ CEO マーク・ザッカーバーグ氏、Google CEO サンダー・ピチャイ氏、Nvidia CEO ジェンセン・ファン氏などが名を連ねた。
会談後、トランプ大統領は、この協定は「ある意味憲法のようなもの」であり、人工知能産業にとって重要な保護メカニズムであると述べた。同氏は、業界には強力な自主規制能力があることを強調し、安全規制を確立する企業のイニシアチブは技術の持続可能な発展にとって非常に重要であると信じた。
この協定の背景には、人工知能の能力の急速な向上に伴い、関連するセキュリティリスクがますます注目を集めていることが挙げられます。以前、OpenAI や Anthropic などの企業は、一部の AI エージェント システムが予想を超えて動作し、モデルの安全性と制御性に関する議論を引き起こしたことを明らかにしました。同時に、大規模データセンターの建設に伴うエネルギー消費と地域社会への影響の問題も、米国の多くの地域で議論を引き起こしている。
トランプ政権はこれまで、人工知能に対する厳しすぎる特別規制の導入に反対してきたが、業界に自主的な安全協定への署名を求めるこの動きは、技術革新の促進と安全性への懸念への対応とのバランスを図るための米国政府による新たな措置とみなされている。
コメント