FRANK、507Kパラメータの再帰アーキテクチャを発表　100,000倍の長さで一部実験を維持

何が起きたか

arXivは2026-10-01、507Kパラメータの再帰アーキテクチャ「FRANK」を報じた。論文では、tau-gated recurrent modules、content-addressable memory、feedforward reflex pathwayを組み合わせた構成を提示し、長さ5〜20で学習した上で、最大2,000,000トークンまで評価した。固定の搭載計算資源を前提とする自律ロボットのone-shot missionで、学習時よりはるかに長い時間軸を扱う課題に向けた検証である。

詳細

評価は、パラメータ数をそろえた再帰型、state-space型、reduced modular型のベースラインと比較して行われた。4つのalgorithmic sequence tasksで検証し、100,000倍の最大学習長に相当する条件で、FRANKの10個のseedのうち6個が100.0% accuracyを維持した一方、50のベースライン構成では完全一致を保ったものはなかったとしている。論文はまた、4つのタスクに対するtargeted lesionsの結果として、再帰・記憶・反射の各経路への依存の違いを示したと述べる。別途、シミュレーションで学習したFRANK policyが、遠隔操作なしで障害物を避けながら物理的な地上車両を指示地点へ走行させたとしている。

Key Facts

本紙の見方

FRANKの新しさは、単に長文を扱うモデルではなく、507Kパラメータという小さめの再帰系の枠内で、再帰・内容検索型記憶・反射経路を分けて組み合わせ、学習長5〜20に対して最大2,000,000トークンまでの外挿を試した点にある。ここで主役なのは大規模化ではなく、固定計算予算のもとでどの機能をどの経路に割り当てるかであり、論文が示すのはその配分を長距離一般化で検証した構成だといえる。100,000倍という条件下で一部seedが完全精度を維持したことは、単発の平均性能よりも再現性の幅が論点になる設計である。 本紙の見方としては、これは「長距離記憶を持つRNN」の一般論ではなく、4つのalgorithmic sequence tasksで、再帰・state-space・reduced modularの各ベースラインを同一パラメータ条件で並べた比較実験である点が重要だ。さらに targeted lesions により、タスクごとに再帰・記憶・反射の依存プロファイルが分かれたとしており、単一の万能経路ではなく、課題によって内部の役割分担が変わることを示唆する。これは、長い系列に耐えるための設計が一枚岩ではなく、タスク特性に応じたモジュール配分の問題だと読める。 本件をフィジカルAIの文脈で見ると、シミュレーションで学習したpolicyが障害物を避けて物理的な地上車両をwaypointへ導いた点が、純粋なシーケンス実験と実機行動の橋渡しになっている。ただし、論文が示したのはあくまで特定の条件下での実演であり、実環境での汎化範囲、失敗率、計算予算の実装条件、そしてどの程度の感覚入力や状態表現を要するかはまだ読み切れない。次に確認すべきなのは、実機走行の反復性、障害物条件の範囲、学習済みpolicyの切り替え条件、そして2,000,000トークン級の外挿が他のタスクでも維持されるかである。

なぜ重要か

論文が示したのは、固定計算予算の小型再帰モデルでも、学習長を大きく超える系列に対して性能を保ちうる可能性があることだ。自律走行の実演が示されたことで、長時間の内部状態保持が必要なフィジカルAIの制御設計に、再帰・記憶・反射の分業という見方が入る。

日本への影響

日本のロボット制御や自律移動の研究では、センサ入力から行動までを限られた搭載計算で回す設計が重要であるため、507Kパラメータ級で長距離一般化を狙う構成は関心対象になりうる。もっとも、論文が示したのはalgorithmic taskと地上車両の限定的実演であり、国内の実機環境にそのまま移せるかは別問題である。