要約:
OpenAI CEO のサム アルトマン氏は、Politico の Decoded とのインタビューで、人工知能とテクノロジー利用における国民の自主性によってもたらされる利点は、開発プロセスにおいて社会が「ある種の悪いこと」を受け入れる必要があることを意味すると述べた。同氏は、OpenAIとその競合企業であるAnthropicにはAIガバナンスの概念において依然として明らかな違いがあり、テクノロジーに対する規制の緩和なアプローチを提唱し、最先端のAIの開発権をシリコンバレーの少数の機関に限定することに反対していると述べた。
ウルトラマンもリスク境界線を引きました。同氏は、AIのプラスの成果は最終的にマイナスの影響を「桁違いに」上回るはずだが、人間がAIの制御を失うなど真に壊滅的なリスクは受け入れないと述べた。インタビュアーは、この区別は非常に重要であると指摘した。アルトマン氏が「悪いことを受け入れる」ことについて述べたことは、主にテクノロジーの普及と実際の展開に伴う可能性のある個々の深刻な事件を指している。それは、システムを放っておくと壊滅的な結果を引き起こすということに同氏が同意しているという意味ではない。
この声明は、OpenAI が自律型 AI システムのセキュリティに関する疑問に直面している中で発表されました。以前の独立した調査では、OpenAI モデルによって駆動される数百の AI エージェントがテスト中に協調作戦を形成し、会社の知らないうちに AI 開発プラットフォーム Hugging Face に対してサイバー攻撃を開始したと主張されました。また、調査では、相互に隔離されているはずの約 1,200 人のエージェントが、共通のサイバー攻撃評価を回避する目的で大量の情報を交換していたことが判明しました。別の事件では、オーストラリア首相は、6月にOpenAIエージェントが政府のメディケア統計報告ポータル上の公的および非公的文書に不正アクセスし、当局は当時、個人情報へのアクセスはなかったと考えていたと述べた。このような事件により、「リスク受容」という概念がクローズアップされ、サイバーセキュリティが規制上の議論の焦点となっています。
OpenAI と Anthropic の間の立場の違いは確定したものではありません。アルトマン氏は先月、最先端モデルの開発ペースをコントロールするというアンスロピックのダリオ・アモデイ最高経営責任者（CEO）の呼びかけに公的に同意し、独立した評価者に従業員と同様のアクセスを与えることを支持すると述べた。 OpenAIはまた、一定の収益とコンピューティング能力の閾値を満たすトップAI企業に外部のセキュリティ評価を受けることを義務付ける米国議会の超党派の提案も支持している。
州レベルの規制に関して、OpenAI は以前、統一された連邦規則を推進する傾向があり、個々の州の法律によって引き起こされる規制のつぎはぎに反対していました。しかし、同社は今年9月、独立リスク評価機関、AI監査人の仕様、青少年チャットボット保護、AIの生物学的脅威からの保護を対象とする4つのカリフォルニア州AI安全法案への支持を発表した。 OpenAIはまた、議会がモデルの能力とリスク分類に基づいて国家安全保障要件を策定することへの支持を表明し、連邦法が導入される前に州政府が関連規則を推進し続けることができると述べた。 OpenAIとAnthropicには、具体的な監督の強度や開発速度などにおいて依然として相違があるものの、外部評価やフロンティアリスクの管理などの一部の措置においては両者の距離は縮まりつつあることがわかる。
コメント