要約:
OpenAI は現地時間 9 月 9 日、モデルの機能とリスク分類に基づいた必須の国家人工知能安全システムの確立を米国で推進すると発表しました。同社は、最先端のモデルを開発する少数の大規模研究所に対して、統一的なテスト、独立した評価、サイバーセキュリティ、重大なインシデントの報告要件を提案しています。
OpenAI は、「AI ポリシーの窓口は開いています。行動を起こす必要があります。」というタイトルの記事を公開しました。
同時に、OpenAI は、カリフォルニア州議会を通過した 4 つの人工知能法案を正式に支持しています。同社は、これらの法案の一部はこれまで支持されておらず、立場の調整は最近のモデル機能の急速な向上によるものだと述べた。
監督対象は最先端のモデル開発者に焦点を当てます
OpenAI のグローバル担当ディレクター、クリス レーン氏は記事の中で、人工知能が一部のモデル開発と調整作業を加速し始めていると述べました。次世代モデルの開発を自律的に推進できる「再帰的自己改善」はまだ現れていないが、企業の自主的な取り組みだけでは関連リスクに対応できなくなっている。
OpenAI は、連邦規制制度に以下を含めることを推奨します。
統一されたモデル機能とセキュリティテスト基準。
独立機関によって実施される技術評価;
モデル、コンピューティング能力、研究開発環境に対するより厳格なネットワーク セキュリティ保護。
重大な安全上のインシデントを報告するための明確なルール。
モデル開発への人工知能の関与の度合いを測定するための一般的な指標。
安全性のしきい値を満たせない場合に、モデルの開発と展開を遅らせたり停止したりするメカニズム。
同社は、関連する義務はモデルの機能とリスクに見合ったものであるべきであり、主に最先端のシステムを開発するのに十分なリソースを持つ少数の研究室に適用されるべきであると強調しています。新興企業、小規模開発者、一般の研究者に同じ要件を課すべきではありません。
OpenAI はまた、競争力を弱めたり、大企業の優位性を強化したり、研究開発活動の海外移転を促進したりしないように、最先端モデルの安全性監視を無差別重量モデルに対する包括的な制限に置き換えるべきではないと主張しています。
カリフォルニア州の 4 つの法案は、評価、監査、青少年、バイオセキュリティを対象としています
議会がまだ全国的な制度を確立していないため、OpenAI は安全基準を向上させる州レベルの法律を引き続き支持すると述べた。今回同社が正式に支持したカリフォルニア州の 4 つの法案は次のとおりです。
SB 813
：独立した検証機関の認証メカニズムを確立し、資格のある第三者機関が人工知能のシステムとモデルが州法に準拠しているかどうかを評価できるようにします。AB 1405
：人工知能監査機関の登録システムを確立し、独立性、透明性、専門的能力、説明責任の観点から監査機関の基準を規定します。SB 1119
: コンパニオン チャットボットを使用する未成年者の場合、年齢確認、リスク評価、独立した監査、ペアレンタル コントロール、有害なコンテンツの保護措置が必要です。AB 1864
：人工知能が生物学的脅威を生み出すために使用されるリスクを軽減するために、遺伝子合成サービスプロバイダーとデスクトップ合成装置メーカーに連邦スクリーニング基準を実装するよう義務付けます。
カリフォルニア州知事ギャビン・ニューサムは、9 月 9 日に SB 813 と AB 1405 に署名しました。前者は人工知能の独立した検証のための組織的枠組みを確立し、後者は州レベルの人工知能監査機関と関連する実践基準のディレクトリを確立します。 SB 1119 と AB 1864 はまだ知事と係争中だった。
OpenAI は、モデルの機能が飛躍的に向上したため、ポジションの一部が調整されたと述べました
OpenAI は、上記の 4 つの法案すべてに対してこれまで反対を表明していません。同社の正確な声明は、これまでサポートしていなかった「一部の法案」は、モデル機能の最近の進歩を再評価した結果、サポートすることが決定されたというものだった。
この変更は、OpenAI が独立監査、第三者による安全性検証、重大事故の開示など、より強制的な外部監視規制メカニズムを受け入れていることを示しています。同社はまた、開発や評価の過程でモデルが許可なく他組織のセキュリティ管理を回避し、保護されたシステムや機密情報に実質的にアクセス、改変、破壊した場合、開発者は影響を受ける当事者に速やかに書面で通知する必要があると提案した。
ただし、OpenAI が発表した内容は依然として政策的な取り組みです。米国議会はこれに基づく国家人工知能安全法をまだ可決していない。具体的な能力の閾値、規制当局、事故の定義、法的責任、および連邦規則と州法の関係は、今後の法律で依然として決定される必要がある。
コメント