リカレントネットワーク/長さ汎化/ロボティクス2026/10/1arXiv:2610.01105

一回限りの探査のためのコンパクトなリカレントアーキテクチャにおける極端な長さ汎化

Extreme Length Generalization in a Compact Recurrent Architecture for One-Shot Exploration

507KパラメータのリカレントアーキテクチャFRANKを提案し、訓練長の10万倍の長さでも高精度を維持することを示し、実機でのウェイポイント走行も実証した。

詳しい要約

1. どんなもの？

507Kパラメータのcompactなrecurrent architecture「FRANK」を提案。one-shot explorationを行う自律ロボットが、訓練時よりはるかに長いhorizonで動作する状況を対象とする。tau-gated recurrent modules、content-addressable memory、feedforward reflex pathwayを組み合わせる。4つのalgorithmic sequence tasksで訓練長5-20、評価は2 million tokensまで行う。

2. 先行研究と比べてどこがすごい？

recurrent、state-space、reduced modular baselinesと同一パラメータ数で比較。最大訓練長の100,000倍において、FRANKは10 seed中6 seedがexactly 100.0% accuracyを維持。一方、5 architectures×10 seedsの50 baseline configurationsはいずれも達成せず（Fisher exact, two-sided p = 4.2E-6）。

3. 技術・手法の肝は？

tau-gated recurrent modules、content-addressable memory、feedforward reflex pathwayを統合したcompact recurrent architecture。パラメータ数は507K。

4. どうやって有効だと検証した？

4つのalgorithmic sequence tasksで訓練長5-20、評価は2 million tokensまで実施。100,000xの長さでaccuracyを測定。4タスクにわたるtargeted lesionsにより、recurrent、memory、reflex pathwaysへの依存プロファイルが4つに分かれることを確認。さらにsimulationで訓練したFRANK policyが、teleoperationなしでphysical ground vehicleを障害物回避しながらwaypointへ誘導。

5. 議論はある？

targeted lesionsの結果、4タスクで4つの異なるcomponent-reliance profilesが得られ、recurrent、memory、reflex pathwaysへのtask-dependent allocationと整合。ただし、要旨からは限界や失敗事例についての詳細は不明。

6. 次に読むべき論文は？

要旨で参照/比較されているrecurrent、state-space、reduced modular baselines。関連手法としてtau-gated recurrent modules、content-addressable memory、feedforward reflex pathway。同分野の定番としてlong short-term memory (LSTM)、gated recurrent unit (GRU)、Transformer、state-space model (SSM) など。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Izen Thornton, Aaron Shey, William Su

分類: cs.RO

原文アブストラクト

Autonomous robots on one-shot missions run over horizons far longer than the trajectories seen during training, under a fixed onboard compute budget. We present FRANK, a 507K-parameter recurrent architecture that combines tau-gated recurrent modules, content-addressable memory, and a feedforward reflex pathway. We evaluate it against recurrent, state-space, and reduced modular baselines at matched parameter count on four algorithmic sequence tasks, trained at length 5-20 and evaluated out to two million tokens. At 100,000x the maximum training length, 6 of 10 FRANK seeds retain exactly 100.0% accuracy, while none of the 50 baseline configurations does, five architectures at ten seeds each with none left incomplete (Fisher exact, two-sided p = 4.2E-6. Targeted lesions across the four tasks yield four distinct component-reliance profiles, consistent with task-dependent allocation across the recurrent, memory, and reflex pathways. Separately, a FRANK policy trained in simulation drives a physical ground vehicle to commanded waypoints through obstacles without teleoperation.

arXivで原文を読む →arXiv概要ページ

← 論文一覧