要約:
OpenAI は、AI の潜在的な害に対する懸念の高まりに対応して、米国が他国と協力して最先端の人工知能 (AI) の標準規格の開発を主導するよう求めています。 OpenAIは月曜日のブログ投稿で、人工知能を安全に開発するためには、特にAIモデルに関連するどのような種類のインシデントが通知されるべきかを定義するのに役立ち、各国がAI開発でどのように協力できるかを明確にし、そのような技術の開発に必要なコンピューティング能力へのアクセスを改善するために、国際的な技術標準を開発する必要があると述べた。
「AI を安全かつ有益に継続的に進歩させるには、連携した研究を推進し、研究所や各国での AI 開発の指針となる共通基準を開発する必要がある」と OpenAI は述べています。
OpenAI は、CEO のサム・アルトマン氏が水曜日に国連安全保障理事会で AI と国際安全保障問題について講演する予定であると述べた。
米国ベッセント財務長官は先週末、米国が国家安全保障に関わるAI事件をカバーする報告メカニズムの確立を提案したと述べた。
OpenAI はブログ投稿の中で、最も有能な AI モデルを開発するための補完的な国内および国際標準を開発するために各国が協力する必要があると強調しました。 OpenAIは、この取り組みが、AIモデルのテストや関連ガイドラインの開発を支援する米国商務省傘下のAI標準イノベーションセンター（CAISI）など、複数の国にある既存のAI安全機関を通じて推進できることを示唆している。
OpenAI はまた、AI の自律的に動作する能力の増大に対処するための標準の開発を求め、「完全に自律的な」再帰的自己改善、つまり AI が人間の介入なしに最終的に自身のコードを変更したり、その機能を改善したりすることは、「安全性が確保されない限り」追求されるべきではないと指摘しました。
コメント