要約:
ロイターによると、OpenAI は木曜日にモデル仕様を更新しました。これは、同社が AI モデルにどのようなパフォーマンスを発揮させたいかを示す公開ロードマップです。 AI システムの機能が向上し続ける中、OpenAI は 5 つの核となる価値を中心にこの仕様セットを再構築しました。 5つの価値観とは、人間の意図への忠実さ、危害の最小化、誠実さと透明性、人間の自主性の尊重、そしてケアです。
OpenAI
OpenAI は、人間の意図への忠誠がこのフレームワークの基礎であり、単に文字通りに命令を実行するのではなく、モデルがユーザー、開発者、OpenAI の意図と価値観を理解することを要求していると述べました。
OpenAI は、このアップデートは、常に人間の監督を受け入れながら、モデルが不慣れな状況で人間の価値観を適用できるようにする AI 連携の取り組みの一環であると述べました。改訂されたフレームワークでは、モデルは害を最小限に抑え、何が分かっていて何が分からないのかを透明にし、ユーザーが自らの意思決定を行い、自らの目標を追求できるようにすべきだとしている。
同社は、現在のモデルは更新された「モデル仕様」の要件をまだ完全には反映しておらず、モデルがこれらの原則を自身の動作に組み込むのに役立つ新しいトレーニング方法を模索していると述べました。
この動きは、ライバルである Anthropic の「憲法上の AI」アプローチを反映しています。このアプローチは、原則の書面による「構成」を通じてモデルの動作を導き、AI システムを形成する値の透明性を高めます。
コメント