要約:
OpenAI CEO の Sam Altman 氏は、人工知能規制の問題に関して、OpenAI とライバルの Anthropic の根底にある世界観には依然として根本的な違いがあると述べました。彼はインタビューの中で、このテクノロジーによってもたらされる莫大な価値は、社会がリスクを負う価値があると提案した。 AI技術は今後も広く一般に公開されるべきである。
OpenAI CEO のサム アルトマン氏はインタビューで、AI がもたらす利益は社会がリスクを受け入れるのに十分であると述べた。ある程度のリスクを受け入れる
「哲学には大きな隔たりがある」とアルトマン氏は言う。 Anthropic およびその CEO、ダリオ・アモダイとの主な違いについて尋ねられたアルトマン氏は、「このテクノロジーの恩恵を享受し、人々が自律的にそれを使用する権利を確保するには、世界はいくつかの悪いことが起こることを受け入れる必要があると信じています。」
Anthropic は、長年にわたって業界で AI 規制を最も強く支持してきました。少し前までは、このスタンスは OpenAI による軽い規制の推進とは相容れなかったでしょう。しかしここ数カ月で、AI大手2社の政策上の違いは縮まった。一連の注目を集めるハッキングやモデルの不安定な動作を受けて、OpenAI はより厳格な規制ルールをサポートする方向に舵を切りました。
ウルトラマンは先月、最先端の大型模型開発のペースを緩めるというアモダイ氏の指摘に同意した。 OpenAIもAnthropicの先例に従い、米国の一部の州でChatGPT開発者が以前にサポートしていた標準よりも厳しいセキュリティ要件を設定する新しい法案の導入を支持した。これは、州レベルの規制戦略における微妙な変化を表している。 OpenAIの政策ロビイストらは最近、大手AI企業に外部のセキュリティ評価者の導入を義務付ける超党派の下院法案も支持した。
両当事者の立場は近い傾向にありますが、アルトマン氏は依然として両社の規制上の考え方の間に明確な一線を引こうとしました。同氏は、トランプ大統領に近いテクノロジー顧問らがAnthropic社の規制上の捕捉を批判していたことに言及した。
「私はこの見解には同意しませんが、一部の人々の見解は理解しています。このテクノロジーは非常に強力でリスクも伴うため、悪いことが起こらないようにサンフランシスコの研究所で習得されるべきであり、その後、研究所がテクノロジーの配当をどのように分配するかを決定します。」アルトマン氏は、このトレードオフは全く容認できず、OpenAIがサポートする軽い規制アプローチに反すると述べた。
アルトマン氏は、「大規模なハッキング攻撃、テクノロジーの悪用、詐欺行為、その他あらゆる種類の悪いことが起こらないと保証する契約は受け入れられません。なぜなら、人間が AI を利用して生み出せる善行は、AI がもたらす害悪を桁違いに上回ると私は信じているからです。」
OpenAI の CEO は後に、AI が深刻な制御不能な状況を引き起こす可能性を含め、真に壊滅的なリスクを受け入れていないと付け加えました。
アンスロピックの広報担当者はコメントを求められた際、同社の規制案は最先端モデルにのみ適用されると述べた。同社はまた、規制上の捕捉や中小企業に対する規制政策の影響に対する批判に応えて、アモダイが8月にソーシャルメディア上で投資運用会社と交わした会話にも言及した。
アモダイ氏は当時、「アンスロピックは政策提案を策定する際に常に非常に慎重だった。われわれは最先端のAI大手を抑制しながら、小規模な競合他社に有利な条件を作り出すソリューションを設計するために多大な労力を費やしてきた。」
アルトマン氏のインタビューでは、多くのトピックについても触れられています。トランプ氏と大手テクノロジー企業との新たな AI 協定、「スーパー インテリジェンス」を生み出すためのブランド変更計画。 OpenAIモデルによって引き起こされた複数の自律型ハッキング事件と、企業が法的責任を負うべきかどうか。 AI業界への巨額の資金流入が米国政治に与える影響。 OpenAI内のいわゆる効果的な利他主義者の影響。そして、フランス大統領エマニュエル・マクロンやカリフォルニア州知事ギャビン・ニューサムなどの主要な政治家に対する彼の見解も述べた。
コメント