何が起きたか

NVIDIAは2025年10月15日、Jetson AGX Thorの生成AI性能がソフトウェア更新により発表時比で最大7倍に向上したと発表した。同社によると、Llama 3.3 70BとDeepSeek R1 70Bで、9月時点の出力速度は8月の発表時と比べ3.3倍から3.5倍に向上し、投機的復号により最大7倍の高速化を達成したという。

なぜ重要か

NVIDIAがJetson AGX Thor向けに、ソフトウェア更新で生成AIの出力処理が発売時より最大7倍速くなったと説明している点が重要です。Llama 3.3 70BやDeepSeek R1 70Bで、同じモデル・同じ量子化条件の9月計測が8月の発売時より3.3倍から3.5倍改善し、さらに投機的復号の併用で最大7倍まで高められると示したため、端末側で大規模モデルを扱う開発者が性能比較の目安を得られます。