要約:
ロイター通信によると、独立した調査では、より強力な後続モデルの開発において AI の役割が増大するにつれて、Anthropic の AI モデルがほぼ 2 倍の速度で改善されたことが判明しました。この調査結果は、AI技術がリスク評価の取り組みよりも早く進歩する可能性があるという最近の業界の警告を裏付けるものだ。
人類的
AI 安全性に関する非営利団体 METR が木曜日に発表したこの調査結果は、AI が独自の開発を加速していることを示すこれまでで最も明確な証拠の 1 つを提供します。この傾向は、AI システムが人間の介入なしに自身のより強力なバージョンを開発する再帰的自己改善 (RSI) への道を開く可能性があります。
今年 8 月から 10 月にかけて実施された 11 週間の評価は、機密調査、インタビュー、未発表モデルの性能データに基づいています。結果は、2025 年 10 月以降、Anthropic モデルのベンチマーク テストの能力が以前より 1.9 倍速く向上したことを示しています。
「2026 年 10 月の時点で、Anthropic は明確に定義されたタスクに関するモデルの機能を以前のほぼ 2 倍の速度で向上させている可能性があります。以前の比較期間は 2024 年 3 月から 2025 年 10 月でした。」 METRは語った。
METR はまた、「この推定値にはかなりの不確実性があります。実際の加速度が歴史的レベルの 1.5 倍または 2.5 倍に近くても驚かないでしょう。」
このレポートでは、AI が現在、モデル トレーニングの最も重要な段階に対して非常に重要かつ完全に自律的に貢献することができないことも強調しています。
人類の研究者は、AI を使用してコードを作成し、実験を行うことで生産性が大幅に向上したと報告しています。非公式の従業員調査では約12倍の増加が示唆されているが、METRはこれらの数字は信頼できないと警告している。
アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は9月、高度なAI開発の減速を呼び掛けた。現在、同社は株式公開の準備を進めており、早ければ今月中にもIPOを開始する可能性がある。これは史上最大規模のIPOの一つになると予想されており、AI企業への投資に対する投資家の熱意を試す重要な試金石にもなるだろう。これらの企業はこの技術の開発に数十億ドルを投資しています。
ここ数カ月間、AI が再帰的に自己改善する可能性があるため、AI 研究者らは警告を発しています。彼らは、そのようなシステムが人間の目標と一致しにくくなり、監視や制御が困難になり、最終的には人類の存続を脅かす可能性があると懸念しています。
この変化は業界全体に広範な影響を与える可能性があります。これまで、AI 業界は高度なモデルをトレーニングするためのコンピューティング インフラストラクチャの構築に数千億ドルを投資してきました。将来的には、AI自体がテクノロジーの進歩を促進する重要な力となる可能性があります。
METR は次のように述べています。「この加速はトレーニング コンピューティング能力の加速的な拡大によって引き起こされたものではないと確信しています。」
コメント