何が起きたか
Hugging Faceは2025年7月10日、ブログで非同期ロボット推論を発表した。これは行動予測と実行を分離し、PolicyServerとRobotClientをgRPCで通信させる方式で、従来の逐次推論と比較してタスク完了時間が約2倍高速化し、成功率は同等であると報告している。
なぜ重要か
複数時刻ぶんの動作列をまとめて出すロボット用モデルを使う開発者にとって、推論が終わるまで機体が止まる遅れや、失敗後もしばらく古い動作を続ける反応の鈍さは実運用上の課題です。Hugging Faceの公表は、機体側で動作を続けながら別プロセスや別マシンのサーバーで次の動作列を計算し、キュー残量のしきい値や重なり部分の統合方法を調整できる設計で、この課題に対処する具体策を示しています。