何が起きたか
NVIDIA、Stanford University、The University of Texas at Austinの研究者らが、視覚・運動の文脈を8Kタイムステップに拡張するロボット方策「RoboTTT」と学習手法を公表した。研究チームは、文脈長を従来の最先端方策の約3桁上に広げても、推論遅延は増えないとしている。実ロボットの操作課題では単一ステップ文脈の基準モデルより総合性能が87%向上し、5分間に及ぶ10段階の組み立て課題を完了したという。
詳細
RoboTTTは、視覚・言語・行動（VLA）方策にTest-Time Training（TTT）を組み込んだモデルで、GR00T N1.7を基盤に実装した。履歴をキャッシュする代わりに、勾配降下で更新される「fast weights」に圧縮して保持する。固定長の状態で長い履歴を条件付けに使い、学習時と推論時の双方で更新する仕組みだという。 学習では、系列を分割して勾配を流す区間を制限するtruncated backpropagation through time（TBPTT）を採用し、fast weightsは区間をまたいで保持する。研究チームによると、8Kタイムステップ文脈で学習したモデルは、同じモデルを1Kで事前学習した場合を62%上回った。また、人の動画による一回の文脈内模倣や、外乱への頑健性、長い複数段階課題での性能向上を報告している。
Key Facts
| RoboTTTは視覚・運動の文脈を8Kタイムステップに拡張し、研究チームは推論遅延を増やさないとしている。 | [1] |
| RoboTTTはGR00T N1.7を基盤とするVLA方策にTest-Time Trainingを組み込んでいる。 | [1] |
| 実ロボット操作課題で、単一ステップ文脈の基準に対し総合性能が87%向上したと研究チームは報告した。 | [1] |
| 5分間の10段階組み立て課題を完了し、研究チームによると比較対象の基準モデルは完了できなかった。 | [1] |
| 8K文脈で学習したモデルは、同じモデルを1Kタイムステップで事前学習した場合を62%上回った。 | [1] |
本紙の見方
8Kという文脈長そのものより、長い履歴を推論時の遅延増加なしに扱う設計が本件の技術的な焦点だ。研究チームは、履歴をそのまま保持せず、推論中にも更新されるfast weightsへ圧縮する。したがってRoboTTTが拡張するのは単なる入力長ではなく、過去の観察や行動を方策の内部状態に取り込み続ける方法である。一方、推論遅延を増やさないとの説明は研究チームの報告であり、提示された資料だけでは実機での遅延値や計算資源の内訳までは確認できない。 結果の読み分けも必要だ。8K文脈と1K文脈の比較では62%の差、単一ステップ文脈の基準との比較では87%の向上が報告されているが、比較対象が異なるため、同じ指標の連続した改善幅として扱うべきではない。また、5分間の10段階組み立て課題の完了は長時間・多段階操作への適用例だが、資料に記された評価は特定の実ロボット操作課題に関するもので、異なる作業や環境への一般化を示すものではない。 本紙の関連記事には、世界モデルを用いる強化学習とヒューマノイドのSim-to-Realを扱った日経クロステック、世界モデルを用いたヒューマノイド制御技術を報道がある。また、NVIDIAのGR00T 2とIsaac Lab 3.0を扱ったNVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表も、ロボット学習の技術段階を比較する材料になる。これらはそれぞれ対象技術が異なり、RoboTTTは方策が長い履歴を取り込む方式に焦点を置く。モデル、シミュレーション、実機制御のどの段階で性能が得られるかを分けて見る必要がある。 業界構造への含意は、長い操作の履歴や人の実演を、方策の実行中に利用する学習・適応経路が提示された点にある。研究チームは人の動画を用いた一回の文脈内模倣と、失敗した行動を文脈にして人の修正を学習する方式も説明している。これらが実用上どの程度の追加データや人手を要するのか、またfast weightsのオンライン更新が安全性や再現性にどう影響するかは、資料からは分からない。次に確認すべきなのは、タスク別の成功率と試行数、遅延・計算量の実測、異なるロボットや作業への適用範囲、動画や修正データの条件である。
なぜ重要か
研究チームの報告では、RoboTTTは人の動画を一度の文脈として使う模倣や、長い組み立て課題に対応する方策を目指す。履歴をfast weightsに保持し推論中にも更新するため、従来の短い視覚・運動文脈を前提とする方策とは、過去情報の取り込み方が異なる。