チューリング賞受賞者のヤン・リークン氏: AI の次のブレークスルーはワールド モデルから生まれるでしょう。制御不能のリスクはエンジニアリング技術によって制御できます。

要約:

2018 年チューリング賞受賞者であり、AMI Labs の創設者兼会長であるヤン・ルカン氏は 10 月 12 日にソウルで、人工知能の画期的な次の段階は、単に大規模な言語モデルの規模を拡大するのではなく、物理世界を理解し、予測し、行動できるシステムによってもたらされるだろうと語った。

彼は、「ワールド モデル」が AI の開発を促進するための重要な技術的方向になると信じています。人工知能の自律性の強化によって引き起こされるセキュリティ上の懸念について、Yang Likun 氏は、AI エージェントが関係する最近のネットワーク セキュリティ インシデントは主に既存のセキュリティ保護システムの欠陥を暴露しており、関連するリスクはシステム アーキテクチャとセキュリティ エンジニアリングを改善することで制御できると述べました。

Yang Likun: 大規模な言語モデルには、物理​​世界の因果関係の信頼できる理解が欠けています

ヤン・リクン氏は月曜日、ソウルで開催された産業用人工知能のシンポジウムで、現在の大規模言語モデルはテキスト、画像、ビデオから知識を効果的に学習できるものの、物理世界における原因と結果についての信頼できる理解をまだ欠いていると述べた。

同氏は、人工知能はすでに数学の定理を証明し、専門試験に合格することができるが、10歳の子供が訓練なしで習得できる日常の家事の多くをロボットが完了するのはまだ難しいと指摘した。この能力ギャップは、現在の AI システムが物理環境の理解、行動計画、現実世界のインタラクションにおいて依然として明らかな限界があることを反映しています。

Yang Likun 氏は、次の段階における AI テクノロジーの重要な開発方向は世界モデル、つまり特定の行動によって物理環境がどのように変化するかを予測できる人工知能システムであると考えています。主に次の単語を予測したり、人間が生成したデータのパターンを学習することでタスクを達成する言語モデルとは対照的に、ワールド モデルは、AI が行動と結果の関係を理解し​​、目標に基づいて一連の行動を計画できるように設計されています。たとえば、ロボットが現実世界で複雑なタスクを確実に完了するには、物体を移動したり掴んだりした後に環境がどのように変化するかを予測できる必要があります。

Yang Likun によって設立された AMI Labs は、Joint-Embedding Predictive Architecture (JEPA) を通じてこの技術路線を推進し、環境予測および行動計画機能において人工知能の信頼性を高める方法を模索しています。

AI テクノロジーが知識処理やコンテンツ生成からロボット工学や産業オートメーションなどの分野に徐々に拡大するにつれて、世界モデルは物理世界でインテリジェンスを実現するための重要な技術基盤であるとヤン・リクン氏はみなしています。ただし、関連するテクノロジーはまだ開発中であり、それらが複雑な現実世界の環境で信頼性の高い予測、独立した計画、大規模な展開を実現できるかどうかは、さらに検証される必要があります。

Yang Likun 氏は、AI が制御不能になっているという懸念に反論します。最近のセキュリティ インシデントにより、エンジニアリング保護の欠陥が明らかになりました。

Yang Likun 氏は、AI の自律的行動能力の開発見通しについて議論する際、人工知能エージェントが関与した最近のサイバーセキュリティ事件にも言及し、これらの事件を AI が制御不能になりつつあると解釈することに反対しました。

韓国の金融業界が最近遭遇した AI 関連のサイバー攻撃について、Yang Likun 氏は、この問題の主な原因は、AI エージェントを導入する企業のネットワーク セキュリティ専門能力の欠如と、ソフトウェアの動作を制限するために使用されるサンドボックス システムのセキュリティ脆弱性にあると考えています。同氏は、現在の大規模な言語モデルは確かに、特定のプロンプトワードを通じて確立されたセキュリティ制限を回避するジェイルブレイク攻撃の対象となる可能性があり、モデルの微調整に頼るだけでその動作を完全に制限するのは難しいと指摘した。

しかし、Yang Likun 氏は、将来の目標指向の AI システムは、操作を実行する前に安全制約を積極的に評価し、それによって行動制御における既存のモデルの欠点を改善することが期待されていると考えています。このようなシステムは、モデルのトレーニング段階で確立されたセキュリティ ルールだけに依存するのではなく、アクションの計画と実行中に追加のセキュリティ チェックを組み込むことができます。

同氏は、この機能を実現するのが単純な技術的課題ではないことを認めましたが、関連する問題は依然として工学設計の範囲内にあることを強調しました。長期的には、防衛機関は通常、より多くのリソースを持っており、セキュリティ情報や防衛経験をよりオープンに共有できるため、AI はサイバー防御者に有利になる可能性さえあります。

この判断は、高度な AI システムの制御を失う潜在的なリスクを強調する一部の見解とは異なります。 Yang Likun 氏はまた、システム アーキテクチャの設計、実行権限の制限、セキュリティ保護メカニズムを通じて、自律型 AI システムの動作が制御可能な範囲内に収まるようにすることも強調しました。

彼の技術的ビジョンでは、将来、人工知能は現実の環境を理解し、行動の結果を予測し、自律的にタスクを完了する能力を徐々に獲得するようになるでしょう。信頼できる安全制約を確立しながらこれらの機能を強化する方法は、世界モデルおよび関連する自律システムの開発において解決する必要がある重要な問題になります。