現地時間月曜日（12月18日）、人工知能（AI）研究会社OpenAIは、AIのリスクを防ぐための一連のガイドラインを発表した。注目に値するルールの 1 つは、CEO などの企業リーダーが AI モデルが安全であると信じている場合でも、取締役会がそのリリースを阻止できることです。 OpenAIが開発したチャットボットChatGPTがリリースされて丸1年が経ちました。この驚異的なアプリケーションは AI 分野の発展を大きく促進しましたが、それに伴い、AI の制御不能な発展に対する懸念も生じています。

世界中の規制当局が独自のAI規制を策定しており、AI分野のリーダーであるOpenAIも行動を起こしている。

OpenAIは今年10月27日、AIがもたらすリスクを最小限に抑えるために「Preparedness」と呼ばれるセキュリティチームの結成を発表した。

Preparedness チームは、MIT の展開可能な機械学習センターのディレクター、Aleksander Madry が率いています。このチームは、さまざまな種類の壊滅的なリスクを追跡、予測、防止するために、さまざまな AI モデルの機能評価とレッド チーム テストを実施します。

OpenAIは月曜日、「準備フレームワーク」と呼ばれるガイドラインを発表し、一連のガイドラインがまだテスト段階にあることを強調した。

報道によると、Preparedness チームは月次レポートを新しい社内セキュリティ諮問グループに送信し、同グループがそれを分析して OpenAI CEO の Sam Altman 氏と取締役会に推奨事項を提出する予定とのことです。アルトマン氏と会社幹部はこれらの報告書に基づいて新しいAIシステムをリリースするかどうかを決定できるが、取締役会はこの決定を覆す権限を持っている。

Altman 氏は OpenAI の共同創設者の 1 人で、少し前まで同社の取締役会のメンバーだったが、人事ショックで同社から外され、しばらく OpenAI を離れた。アルトマン氏は最終的にOpenAIに戻り、CEOとしての職を続けることができたものの、新しく設立された「初期」取締役会には席を持っていなかった。

Preparedness チームは、OpenAI の最も先進的な、まだリリースされていない AI モデルを繰り返し評価し、認識されたさまざまなタイプのリスクに基づいて、低から高の 4 つのレベル (「低」、「中」、「高」、「重度」) に評価します。新しいガイドラインでは、OpenAI は「低」または「中」と評価されたモデルのみを展開します。