要約:
11 月 20 日、米国メディア「The San Francisco Standard」(サンフランシスコ スタンダード)によると、元人類研究者のジェイコブ・コクソン氏は同社の IPO 当日、サンフランシスコ本社の外に現れ、現場の抗議活動参加者に向けて人工知能システムにおける再帰的自己改善(RSI)の禁止を公に訴えた。

コクソン氏は現場で「RSIを禁止し、機能を停止すべきだ」と述べた。
彼はまた、抗議活動参加者にこう語った。ここには、何が起こっているかを知っていれば、何十万人もの人々がここに来ます。そして、そのような人々が何百万人もいます。」
RSI は再帰的自己改善の略で、人工知能システムが独自のアルゴリズム、モデル、または研究開発プロセスを改善することで自身の能力をさらに向上させ、向上した能力を使用して次の最適化を継続することを意味します。このメカニズムは、AI 機能の開発を加速させる可能性が高いと考えられており、また、AI システムが制御不能になるリスクについての懸念も引き起こしています。
コクソン氏は以前にAnthropic社を辞任していた。今回彼は、先進AIシステムの独立した改善能力と安全限界をめぐる論争を反映して、RSIの禁止を公に求めた。
コメント