Google は最近、Web ブラウザ側での機械学習と人工知能のワークロードの処理速度を大幅に向上させるように設計された新しい JavaScript ライブラリ LiteRT.js をリリースしました。この動きは、Google がモバイルに最適化された LiteRT ランタイムを Web プラットフォームに導入し、サーバー側の処理に依存せずに AI モデルをローカルのブラウザ環境で直接効率的に実行できるようにすることを示しています。
既存の TensorFlow.js と比較すると、LiteRT.js は明らかなパフォーマンス上の利点を示しています。このライブラリは WebAssembly テクノロジーを利用し、WebGPU や WebNN などのハードウェア アクセラレーション インターフェイスを深く統合して、JavaScript カーネルに基づく以前の TensorFlow.js を置き換え、それによってより効率的なコンピューティング機能を実現すると報告されています。 M4 チップを搭載した 2024 MacBook Pro で Google が実施したテストでは、この新しいランタイムの処理速度が既存のソリューションの 3 倍であることが示されています。
以前は、LiteRT ランタイムは主に Android および iOS モバイル プラットフォームにサービスを提供していました。このアップデートにより、開発者は WebAssembly を通じて、Web 上でより強力な AI 導入機能を取得できるようになりました。 TensorFlow.js を使用している開発者にとって、移行プロセスは比較的スムーズです。すでに .tflite ファイルがある場合は、JavaScript ランタイムを LiteRT.js に切り替えるだけで済みます。 TensorFlow/Keras SavedModel 形式を使用している場合は、Python TensorFlow パッケージの組み込み LiteRT コンバーターを通じてそれを適応させることができます。
このリリースは業界の関心を呼び起こし、多くの人が Google が TensorFlow.js のサポートを段階的に廃止するか、優先順位を下げるのではないかと推測し始め、このライブラリが Apple ハードウェアを超えた幅広いデバイスで実際にどのように動作するかを楽しみにしています。