何が起きたか
NVIDIAは、NVIDIA DRIVE AGX ThorとJetson Thor向けに設計されたLLM/VLM推論フレームワーク「TensorRT Edge-LLM」をJetPack 7.1リリースで公開したと発表した。同社は、Bosch、ThunderSoft、MediaTekがCES 2026でこの技術を展示していると述べている。
なぜ重要か
車載機器やロボットの開発者にとって重要なのは、会話型ＡＩや画像も扱う言語モデルをクラウド頼みではなく、車両や機体の中でそのまま動かす前提の基盤が公開された点です。NVIDIAによると、この枠組みは少人数利用、低い同時処理数、通信なしの運用、遅延やメモリーの制約が厳しい条件に合わせており、JetPack 7.1やDriveOS上でモデル変換から実行までを通して扱えます。