ブリンが Gemini 4 について語る: Google AI 開発が加速し、モデルが自己改善の道を歩み始める

要約:

「Business Insider」によると、

Google は AI の分野において、モデルの自己改善という重大な時期に近づいている可能性があります。

ブリン

この概念は再帰的自己改善 (RSI) と呼ばれ、AI はより高度な AI システムの開発を支援し、フライホイール効果を引き起こし、新しいモデルの開発をますます加速するサイクルを形成します。

Brin 氏は、この傾向が起こっている証拠として、Gemini 4 のリリース前に発売された Google Flash シリーズのモデルを挙げました。同氏は同社が「RSIとともに循環的な軌道に乗り始めている」と述べた。

「現在、私たちの研究者とモデルは、次のバージョンのモデルを作成するために協力し始めています。」ラウンドテーブルディスカッションの中で彼はこう語った。 Googleは水曜日に議論の内容を共有した。

Google 内の他の人々も Brin の意見に同意しているようです。 Google DeepMind で Gemini 再帰的自己改善作業の責任者である Vihan Jain 氏は、X プラットフォームに関する記事を公開し、Argon モデルが独自の反復進化プロセスにおいてどれほど深く役割を果たしているかについて語りました。

彼は次のように書いています。「トレーニング後のニーズが、オリジナルのチップの申請からアルゴン使用量の割り当ての申請に移ったとき、RSI フライホイールが新しいギアにシフトしたことがわかります。」

ブリンは Google Gemini プロジェクトへの関与を強めており、共同創設者としての影響力を利用して、会社に RSI への注意を高めるよう働きかけるなど、最も効果的だと思われるプロジェクトにリソースを振り向けています。

ラウンドテーブルディスカッションの中で、ブリン氏は、Google チームが現在示しているペースに興奮していると述べ、人々が Argon のリリースに関するビデオを見た頃には、Google は実際にいくつかの新しいモデルに進んでいたと述べました。

Anthropic と OpenAI は、AI が RSI 段階に入ろうとしている可能性があるとも述べました。 AI企業Gladstone AIが今週発表した新しいレポートでは、さまざまなAI企業がRSIに向けてどのように取り組んでいるのかが説明されている。このレポートのためにインタビューしたAnthropic、OpenAI、DeepMindなどの企業の研究者のほとんどは、再帰的な自己改善が今後3～12か月以内に始まると信じている。政府の介入がなければ、プロセスはもっと早く始まっていたかもしれないと彼らは述べた。

新しい Argon モデルに関してリリースされたセキュリティ レポートの中で、Google は AI 開発サイクルの一部の側面が自動化されていると述べました。レポートでは次のように述べられています。「AI エージェントは効率を大幅に向上させるアシスタントとなり、実際の動作環境でコードの大部分を作成し、脆弱性を修正する責任を負いますが、コードの変更は依然として提出前に手動でレビューする必要があります。」

しかし、RSI は先月 AI 研究者たちが出した警告の中心となっています。彼らは、適切な保護手段がなければ、人類はテクノロジーの制御を失う可能性があると信じています。