今日、人工知能の分野に関するニュースが広く注目を集めています。報道によると、スタンフォード大学とワシントン大学のリー・フェイフェイ氏ら研究者らは、クラウド・コンピューティングのコストを50ドル未満でs1と呼ばれる人工知能推論モデルのトレーニングに成功したという。このモデルの数学およびコーディング能力テストにおけるパフォーマンスは、OpenAI の O1 や DeepSeek の R1 などの最先端の推論モデルと同等であると言われています。
このニュースは間違いなくAIの世界に衝撃を与えた。真実とは何でしょうか？
「科創版日報」の記者らが業界関係者への調査とインタビューを行った結果、S1モデルのトレーニングはゼロから始まったわけではなく、Alibaba CloudのTongyi Qianwen（Qwen）モデルに基づいて監視され、微調整されていたことが判明した。これは、s1 モデルの魔法のような「低コスト」が、すでに強力な機能を備えたオープンソースの基本モデルに基づいていることを意味します。
一般モデルの「ベース」の役割
Li Feifei らの研究論文によると、s1 モデルのトレーニングでは 1,000 個のサンプル データのみが使用されました。業界のコンセンサスによると、このデータ量は AI トレーニングでは非常に少量であり、通常、推論機能を備えたモデルをトレーニングするには十分ではありません。
若いAI科学者であり、上海交通大学人工知能学部の准教授である謝偉迪氏は、科学技術イノベーション委員会日報の記者に対し、スタンフォードS1論文を注意深く研究すれば、S1モデルの魔法はTongyi Qianwenモデルに基づいて微調整されていることが分かるだろうと語った。これら 1,000 のサンプル トレーニングの役割は、「ゼロから始める」というよりは「おまけ」に近いものです。
中国の有名な大手モデル会社の最高経営責任者（CEO）も科学技術イノベーション委員会日刊紙の記者に対し、「論文の原文から判断すると、50ドルで推論機能を備えた新しいモデルのいわゆるトレーニングは、実際にはGoogleモデルから抽出した1,000サンプルを使用し、Tongyi Qianwenモデルを監督して微調整するだけだ。そのような微調整のコストは確かに非常に低いが、明らかに、既存の有力モデルの「肩」。
Xie Weidi氏は、非常に低コストで推論機能を備えた新しいモデルを訓練したと主張するチームが国内外に他にも存在すると指摘した。しかし、彼の論文の原文を読んでみると、それらはすべて一般的なモデルを基礎にしていることがわかります。
「Tongyi Qianwen モデルをベースとして使用すると、非常に少ないサンプル データで新しい推論モデルを生成することは確かに可能ですが、他のベース モデルに置き換えると、新しいモデルの機能はまったく向上しません。したがって、本当に驚くべき能力は s1 ではなく Qwen モデルです。」謝偉迪は語った。
大規模モデルの低コストトレーニングには限界があるが、それが方向性でもある
s1 モデルの低コストのトレーニングは AI トレーニングの可能性をある程度示していますが、その限界を無視することはできません。
まず第一に、この低コストのトレーニングは、Ali Tongyi Qianwen モデルなどの既存の強力な基本モデルに依存しています。このような基本モデルがなければ、低コストのトレーニングの効果は大幅に低下します。
次に、ほとんどの場合、特に複雑なタスクを処理する必要があるシナリオでは、1,000 個のサンプル データというトレーニング量では十分ではありません。
さらに、低コストのトレーニングの成功により、AI モデルの知的財産や倫理問題に関する議論も引き起こされました。既存のペデスタル モデルの微調整に依存する研究が増えている場合、これらのペデスタル モデルの開発者にはそれに応じた報酬が与えられるべきでしょうか? AI テクノロジーの公正な使用と共有を確保するにはどうすればよいでしょうか?これらの問題については、業界によるさらなる議論と解決が必要です。
s1 モデルの低コストのトレーニングは論争を引き起こしましたが、その背後にある研究のアイデアは間違いなく AI 分野に新しい思考の方向性を提供します。
武漢人工知能研究所の上級研究員は科学技術革新委員会日報の記者に対し、モデルのパフォーマンスを確保しながらトレーニングコストをいかに削減するかがAI研究の重要なテーマであると語った。将来的には、テクノロジーの進歩とアルゴリズムの最適化により、おそらく、より低コストで高性能な AI モデルが実際に登場することができるでしょう。