何が起きたか

NVIDIAは公式ブログで、Jetson Orin NXおよびOrin Nano向けに、不要なサービス無効化やカーブアウト領域の調整など、メモリ使用量を最適化する手法を紹介した。これにより、限られたメモリでより大きなモデルを実行できるとしている。

なぜ重要か

Jetson Orin NXとOrin Nanoで動く組み込み機器の開発者にとって、表示やカメラを使わない構成では、起動時に確保された領域を減らしてアプリケーション用の主記憶を増やせる点が具体的です。原典は、画面関連サービスの無効化で最大865MB、カメラ関連の予約領域の停止で32MBなど、用途を絞ったときの調整条件を示しています。