要約:
人工知能の安全性を重視していた OpenAI の従業員が退職し、人工知能のトップ企業はリスク軽減に十分な努力をしていないと警告した。以前 OpenAI セキュリティ チームの透明性を担当していた David Robinson 氏は、The Atlantic の記事で、ChatGPT 開発者は「常に試行錯誤を繰り返しながら成長してきた」と述べました。ただし、このアプローチは必然的に失敗します。 AI テクノロジーの機能が向上し続けるにつれて、これらの障害によって引き起こされるリスクも増加しています。同氏はまた、OpenAIがテストプロセス中に人工知能が制御不能になるのを防ぐことができなかったことを例に挙げた。
ロビンソン氏は記事の中で次のように書いています。「私の元同僚は賢く、勤勉で、正しい選択をしようと努めていました。しかし、会社は次の製品リリースに急いでいたため、私が必要だと思っていたレベルの警戒をしませんでした。」本当に必要なのは、「初めて完璧に近づくこと」だと彼は付け加えた。
OpenAI サム アルトマン
ここ数週間、いくつかの大手人工知能企業の従業員が、このテクノロジーがもたらす可能性のある壊滅的なリスクについて警告しています。 AIはいつか人類を滅ぼすかもしれないとさえ言う人もいます。
これに関連して、アンスロピック PBC CEO のダリオ・アモデイ氏は、最先端モデルの開発速度を落とすよう呼びかけ、安全性を確保するための審査を支援するために第三者の評価者を導入すると述べました。 OpenAIのサム・アルトマン氏を含む業界の他の人々も、アモデイの計画を公に支持している。
ロビンソン氏は記事の中で、人工知能企業は原子力発電所のように運営すべきであり、「時折避けられない人為的ミスが災害への扉を開くことを防ぐために、複数の層の冗長性メカニズムを設定し、注意深く時間のかかる計画を実施する」べきだと述べた。
現時点では、「AI 企業は何をすべきか分かっていませんが、他の企業は何をすべきか分かっています。」
OpenAI の広報担当者は、同社が研究およびテスト環境のセキュリティを強化し、責任を持ってタスクを完了できるように AI モデルをトレーニングし、サードパーティの評価者との協力を拡大し、モデル内の懸念すべき動作を検出するためのリアルタイム監視を改善するための調整を行っていると述べた。
同社は、OpenAI が安全に管理できる範囲を超えてモデルの機能が増加しないようにしていると、広報担当者が土曜日に電子メールで述べた。
コメント