要約:
韓国科学技術院 (KAIST) とマイクロソフト リサーチ アジアは、人間の脳波を分析することで人工知能がユーザーの意図を誤解したかどうかをリアルタイムで特定し、それに応じて動作を調整できる、新しいタイプのブレイン コンピューター インターフェイス技術を開発しました。研究チームは、この技術により人工知能が「指示に従う」から「意図を理解する」という新たな段階に進むことが期待できると考えています。
研究者らはこのテクノロジーを「Neural Value Alignment (NVA)」と名付けました。このシステムは、脳波検査 (EEG) を使用して、人工知能がタスクを実行するのをユーザーが観察する際に生成される神経活動を監視します。 AIが間違った目標を達成したり、ユーザーが予期しない行動を実行したりすると、脳は特定の予測誤差信号を生成します。システムはこれらの変化を捉えてフィードバック情報に変換することができるため、AIは自身の理解にズレがあることを認識できるようになります。
長い間、人工知能は多くの分野で強力な能力を実証してきましたが、人間と AI の間のコミュニケーションでは依然として誤解が頻繁に発生します。ユーザーが詳細なプロンプトを与えたとしても、AI は関連性はあるものの期待どおりに不正確な結果を生成する可能性があります。研究チームは、問題の根本は、人工知能が意図を推測するために主に言語、動作、ジェスチャーなどの外部情報に依存しており、これらの動作自体が曖昧であることが多いことにあると考えています。
研究者らは、カップを手に取ることで、人は水を飲んだり、カップを掃除したり、カップを移動したり、他の人に渡したりすることができるという例を挙げました。逆に、喉の渇きを癒すことが目的の場合、カップを持ち上げたり、水筒を手に入れたり、他の人に助けを求めるなど、さまざまな方法でそれを達成することもできます。行動自体を観察するだけでは、真の目的を正確に判断することはできないことがよくあります。
この「目標と行動のあいまいさ」の問題を解決するために、研究チームは人間の脳そのものに注目しました。実際の結果が人々の期待と一致しない場合、脳は自然に特別な予測誤差信号を生成します。 NVA システムは、この神経応答を追加の情報源として使用し、人工知能がどのリンクに誤解があるかを判断するのに役立ちます。
研究チームは 2 種類の脳神経信号に焦点を当てました。 1 つのタイプは「報酬予測誤差」で、結果が個人の目標と価値の期待を満たしているかどうかを反映します。もう 1 つのタイプは「状態予測誤差」で、実際の状況が脳が期待するプロセスと一致しているかどうかを反映します。これら 2 つの信号を同時に分析することで、システムは AI の理解におけるエラーを検出できるだけでなく、そのエラーがターゲット レベルで発生したのか、実行メソッド レベルで発生したのかを判断することもできます。
実験結果は、EEG フィードバックの導入後、ユーザーが常に指示を繰り返したり、新しい指示を発行したりすることなく、人工知能がユーザーの真の意図をより正確に推測し、タスクの実行中に逸脱を積極的に修正できることを示しています。
研究チームは、この結果はロボット、人間と機械のコラボレーション システム、インテリジェント アシスタントなどのシナリオに適用されることが期待されると述べています。たとえば、将来の家庭用ロボットがタスクを実行するときに、ユーザーの心の中で「これは私が望む結果ではない」という反応を検出すると、明示的な指示を待たずに積極的に行動計画を調整できます。
研究者らは、これは、人工知能が将来的にコマンドに受動的に応答するだけでなく、ブレイン・コンピューター・インターフェース技術を使用して言語の背後に隠された人間の真の意図を理解し、それによってより自然で効率的な人間と機械のコラボレーションを実現できることを意味すると考えています。関連する研究が進むにつれて、人間の認知フィードバックを感知してリアルタイムで行動を修正できる次世代のインテリジェントシステムが徐々に現実になる可能性があります。
コメント