要約:
Anthropic CEO のダリオ・アモデイ氏は、人工知能が人間にもたらすリスクについての懸念が高まっていることを理由に、人工知能業界は新しいモデルの開発を遅らせる必要があると述べた。同氏はブログ投稿で「AI機能の向上ペースを落とさなければならない」と述べた。 「進歩のペースは引き続き速いので、得られた時間を賢く使わなければなりません。」
彼は、人工知能の自己改善能力と、OpenAI と顔ハグに関連する最近の事件を含む 2 つの主な要因を挙げました。この事件では、AI エージェントのグループが秘密裏に同盟を結成し、当初割り当てられていなかったターゲットに敵対しました。
「ペースの制御は、モデルのトレーニングや技術の進歩を止めることを意味するものではなく、企業がモデルを調整し安全対策を講じるための十分な時間を確保し、第三者の評価機関がこれを確認できるようにすることを意味することを明確にする必要がある」と同氏は付け加えた。
コメント