飛行機に 2 人のパイロットがいて、1 人が人間で 1 人がコンピューターだと想像してください。二人ともコントローラーを「手」で操作していますが、常に違うことに集中しています。全員が同じことに集中していれば、人間がハンドルを握ることができます。しかし、人間が気が散ったり、何かを見逃したりすると、すぐにコンピューターが引き継いでしまいます。人間の直感と機械の精度を組み合わせることで、パイロットと航空機の間により共生的な関係が生まれます。


エア・ガーディアンを使用すると、コンピューター プログラムが人間のパイロットの視線を追跡し (視線追跡技術を使用して)、パイロットが何に注意を払っているかをよりよく理解できます。これにより、コンピューターはパイロットが行っていること、またはしようとしていることに基づいて、より適切な決定を下すことができます。写真提供者: AlexShipps/MITCSAILviaMidjourney

これは、MIT のコンピューター科学・人工知能研究所 (CSAIL) の研究者によって開発された「SkyGuardian」システムです。現代のパイロットは、特に重要な瞬間に、複数のモニターからの大量の情報を処理する必要があります。エア・ガーディアンは現役の副操縦士として活動できます。それは人間と機械の間のパートナーシップであり、基本的に注意の理解に基づいています。

しかし、それは正確にどうやって注目を決定するのでしょうか？人間の場合は視線追跡を使用しますが、神経システムの場合は注意の方向を正確に示す「顕著性マップ」と呼ばれる概念に依存します。これらのマップは視覚的なガイドとして機能し、画像内の重要な領域を強調表示して、複雑なアルゴリズムの動作を把握および解釈するのに役立ちます。エア・ガーディアンは、従来の自動運転システムのように安全違反が発生した場合にのみ介入するのではなく、これらの注意マーカーを使用して潜在的なリスクの初期の兆候を特定します。

このシステムの広範な影響は航空を超えて広がります。同様の協調制御メカニズムは、いつか自動車、ドローン、およびロボット工学のより広い分野で使用されるかもしれません。

MIT CSAILのポスドクであり、エア・ガーディアンに関する新しい論文の筆頭著者であるリアンハオ・イン氏は、「私たちのアプローチの素晴らしい特徴は、その微分可能性です。私たちの協力レイヤーとエンドツーエンドのプロセス全体がトレーニング可能です。私たちが特に因果的連続ディープニューラルネットワークモデルを選択したのは、注意をマッピングする際の動的な特性のためです。もう1つのユニークな特徴は適応性です。エア・ガーディアンのシステムは厳格ではなく、実際の状況に応じて調整でき、相互間のバランスのとれた連携が保証されます」と述べた。人間と機械。」

フィールドテストと結果

フィールドテストでは、パイロットとシステムの両方が、目標のウェイポイントに移動する際に、同じ生の画像に基づいて決定を下しました。エア・ガーディアンの成功は、飛行中に獲得した累積報酬とウェイポイントまでの短い経路によって測定されます。ガーディアンは飛行のリスクレベルを軽減し、目標地点までのナビゲーションの成功率を高めます。

MIT CSAIL 研究所のメンバーであり、リキッド ニューラル ネットワークの発明者であるラミン ハサニ氏は、「このシステムは、AI 航空イノベーションに対する人間中心のアプローチを表しています。リキッド ニューラル ネットワークの使用により、AI が人間の判断を単に人間に置き換えるのではなく、補完することで、空での安全性とコラボレーションが向上することを保証する動的で適応的なアプローチが提供されます。」と付け加えました。

技術基盤と今後の展望

エア・ガーディアンの本当の強みは、その基盤となるテクノロジーにあります。人間と機械の視覚的注意を活用する最適化ベースのコラボレーション レイヤーと、因果関係を解読することで知られる液体閉形式連続時間ニューラル ネットワーク (CfC) を使用して、受信した画像を分析して重要な情報を求めます。補足的に、VisualBackProp アルゴリズムは画像内のシステムの焦点を特定し、そのアテンション マップを明確に理解できるようにします。

将来的に広く使用されるためには、マンマシンインターフェースを改善する必要があります。フィードバックでは、棒グラフなどのインジケーターを使用すると、監視システムが制御を開始する時期をより視覚的に表現できる可能性があることが示唆されました。

SkyGuard は、より安全な空の新時代を到来させ、人間の注意が揺らぐ瞬間に信頼できるセーフティ ネットを提供します。

「SkyGuard システムは、人間の専門知識と機械学習の相乗効果を強調し、機械学習を使用してパイロットの能力を強化し、困難なシナリオでの操作エラーを減らすという目標を推進します」と、アンドリュー (1956 年) とマサチューセッツ工科大学の電気工学およびコンピュータ サイエンスのエルナ ビタビ教授であり、CSAIL のディレクターであり、この論文の上級著者であるダニエラ ラス氏は述べています。

「この研究で視覚的注意メトリクスを使用した最も興味深い結果の 1 つは、人間のパイロットがより早期に介入し、解釈可能性を向上できる可能性です」とハーバード大学コンピューター サイエンスのステファニー ギル助教授は述べています。 「これは、人工知能を使用して人間と連携し、人間と人工知能システムの間の自然なコミュニケーション メカニズムを活用することで信頼を達成するための敷居を下げる方法の好例を示しています。」