要約:
OpenAI や Anthropic などの米国の人工知能企業は、中国企業が「モデルの蒸留」を通じて先進技術を模倣したと非難し続けているが、米国の有名なスタートアップ アクセラレータである Y Combinator の CEO、Garry Tan 氏は全く異なる見解を公に表明した。同氏は、自分次第であれば蒸留問題に関して「何も行われない」と述べ、現在の規制の焦点は蒸留との戦いにあるべきではないと考えていると述べた。
Garry Tan は、Y Combinator の年次デモデー イベント中のインタビューで上記の声明を発表しました。過去数か月にわたって、モデルの蒸留は世界の AI 業界で最も物議を醸すトピックの 1 つになりました。蒸留とは、より強力な人工知能モデルによって生成された出力を使用して、より小規模または能力の低いモデルをトレーニングすることを指します。場合によっては、このプロセスは元のモデルの開発者によって許可されていない可能性があるため、一部の大手 AI 企業では、知的財産権および商業的利益に対する脅威とみなされています。
現在、Anthropic は、Dark Side of the Moon、DeepSeek、MiniMax などの中国企業が自社のモデルを蒸留トレーニングに使用している疑いで公に非難しています。 OpenAI は、DeepSeek のモデル アーキテクチャの一部が、GPT-4 および GPT-4o シリーズ モデルの出力結果から借用または由来している可能性があると考えています。同時に、米国家安全保障局、サイバーセキュリティ・インフラセキュリティ庁、FBIは最近共同でサイバーセキュリティに関する警告を発し、関連する行為を注力が必要なセキュリティリスクとしてリストアップした。
しかし、ギャリー・タンは蒸留に対するより厳しい制限には賛成していません。同氏は、規制当局が本当に焦点を当てるべきなのは、単に蒸留行為を禁止したり取り締まったりすることではなく、オープンウェイトモデルと最先端のクローズドソースモデルとの間の健全なバランスをいかに確立するかであると信じている。同氏の見解では、主要モデルがビジネスモデルの継続を可能にする十分な性能上の利点と価格プレミアムを維持できる限り、オープンモデルの存在はテクノロジーの普及とイノベーションの普及に役立つだろう。
同氏は、オープンウェイトモデルがより多くの開発者や企業に自由と利用の機会を提供すると同時に、最先端モデルがその技術的リーダーシップによって商業的価値を維持することが理想的な状態であるべきだと述べた。このバランスは非常に脆弱であり、「綱渡り」と同じくらい難しいものですが、それでも業界が追求する最も価値のある発展の道です。
蒸留論争のもう 1 つの背景は、人工知能業界における長年の著作権問題にあります。多くの批評家は、OpenAI や Anthropic などの企業も、独自のモデルをトレーニングする際に、ニュースレポート、書籍、その他の著作権で保護されたコンテンツの不正使用に関する問題に直面していると指摘しています。ニューヨーク・タイムズは以前、OpenAIとMicrosoftを告訴し、ニュースコンテンツを許可なくモデルのトレーニングに使用したとして非難した。多くの作家も同様の問題でAnthropicに対して訴訟を起こしている。ギャリー・タン氏は、これが蒸留に対する業界の倫理的立場を複雑にしていると考えている。
モデルの競争問題に加えて、ギャリー タン氏は、現在台頭している「AI 終末論」についても引き続き慎重です。最近、一部の人工知能研究者が高度なAIが暴走するリスクについて懸念を公に表明するなか、人工知能の実存的リスクについて社会で議論することが大幅に増えている。しかし、タン氏は、業界はSFの災害シナリオに耽溺するのではなく、現実にすでに発生している、あるいはこれから発生しようとしている問題にもっと注意を払うべきだと考えている。
彼の見解では、ネットワーク セキュリティ分野のリスクが現在最も差し迫った課題です。たとえば、AI システムがサイバー攻撃、インフラ侵入、自動犯罪に使用される場合、AI が人類を絶滅させるという遠いシナリオよりも、対処するリソースを優先する価値がはるかに高くなります。雇用への影響や経済構造の変化などの問題については、こうした影響は現実のものであるものの、短期間に爆発的に現れるというよりは、今後数十年かけて徐々に現れる可能性が高いと考えている。
人工知能の安全性とモデルの競争をめぐる議論が激化しているにもかかわらず、Y Combinator が AI 業界に大きく賭け続けていることは注目に値します。今回のデモデーに展示されたスタートアップ企業 196 社のうち、機械学習と人工知能に関連する企業は 149 社で、全プロジェクトの 4 分の 3 以上を占め、人工知能の将来の発展に対する同庁の高い楽観的な姿勢を反映しています。
アナリストは、ギャリー・タン氏の発言がシリコンバレー内の別の声を代表していると考えています。保護の強化とテクノロジーの拡散の制限を主張する最先端のモデル開発者とは異なり、この派閥はオープンエコロジー、完全な競争、テクノロジーの民主化を重視しています。 AI 業界が急速なペースで発展を続ける中、「蒸留」、オープンソース モデル、国家安全保障、知的財産をめぐる議論は、今後数年間、世界の人工知能分野において引き続き重要な問題となることが予想されます。
コメント