OpenAI、AI「コントロールルーム」を展開：モデル出力を最大35秒ブロック

要約:

OpenAI は最近、社内の研究インフラストラクチャに「Control Room」と呼ばれる中央制御システムを導入したと発表しました。モデル タスクが安全性またはネットワーク セキュリティのリスクを引き起こす場合、

システムは、停止コマンドの受信後、最大 35 秒間モデルの出力継続をブロックする可能性があります

OpenAI によると、Control Room は強化学習トレーニング、モデル評価、エージェント サンプリング、データ処理などの研究タスクを均一に追跡でき、モデル動作監視システムにリンクされています。

監視モデルは、トレーニングされたモデルの推論と動作プロセスをチェックします。潜在的な問題が発見されると、リスクの程度に応じてアラームを発行したり、タスクを直接中断したりできます。

特定の実行プロセス中に、監視システムは停止する必要があるタスク ID をコントロール ルームに送信します。次回、関連タスクがモデル推論に適用されると、推論エンジンはその実行許可を確認します。タスクが終了済みとしてマークされている場合、システムはリクエストを拒否して、モデルがコンテンツを生成し続けるのを防ぎます。

OpenAI は、

現在、コントロール ルームが停止コマンドを受信して​​からタスクの実行がまったく続行できなくなるまでに最大 35 秒かかります。

システムは「フェールクローズ」メカニズムも使用します。 Control Room に障害が発生したり、シャットダウンされたり、改ざんされたりした場合、サービスが復元されるまで、関連するすべての推論リクエストはデフォルトで拒否されます。このメカニズムは現在、OpenAI のすべての最先端モデル研究タスクをカバーしており、他の研究タスクにも拡張されています。 OpenAIは、同社の外部モデルサービスはより集中化された技術アーキテクチャを採用しており、現在、対応するオフライン展開機能と緊急対応機能を備えていると述べた。