要約:
OpenAI の主任科学者 Jakub Pachocki 氏は、研究者がこれらのモデルの動作を理解し監視するためのより良い方法を得るまで、人工知能企業はますます強力になるモデルの開発に制限を設けることに同意すべきだと提案しています。パチョッキ氏は、AI開発の境界線を定める業界全体の標準を求め、企業は特定のセキュリティ要件が満たされるまでその境界線を押し広げないことに同意する必要があると主張した。

「私はさらに、共通の制限を混乱やその他の尺度に基づいて設定し、開発者は AI の動作を理解して監視する能力が特定のマイルストーンに達するまでこれらの制限に違反しないことを約束することを提案します」と Pachocki 氏は書いています。 Pachocki 氏が提案した制限は、次のテキストを予測する AI モデルの能力を測定するパープレキシティと呼ばれる技術指標に部分的に基づいている可能性があります。パチョッキ氏は、初期制限をどのレベルに設定すべきか、またいつ実施されるかについては言及しなかった。
パチョッキ氏は、早ければ2027年には、研究者がテクノロジーを監視し理解する能力を向上させるよりも早く、AIが自らの進化を加速させる可能性があると警告した。
OpenAI CEO の Altman 氏は、Pachocki の記事を「OpenAI がここ最近でリリースした最も重要なコンテンツ」と呼び、この提案への支持を表明しました。同氏はXに関する投稿の中で、共有制限について合意することが「セキュリティとコントロール」の確保に役立つと述べた。
コメント