記憶とスキルの双方向学習による生涯コンテキスト適応

- LLM agent が長期にわたる相互作用履歴から学びつつ、各意思決定を有限の context window 内で行うための枠組み MemCryst を提案する研究。 - frozen language model を用い、memory と skills を双方向に学習させる lifelong context adaptation のフレームワーク。 - memory に保存された再発エピソードが skill の作成・改訂を支え、skill に導かれた相互作用が次の学習用 memory を供給する。 - memory から取得した facts と学習済み skills が共同で agent の context を形成する。

- memory は過去経験を利用可能にするが、新規タスクの解法を retrieved records から推論する必要がある点を課題として指摘。 - skills は再利用可能な手続きを提供するが、適用に必要なタスク固有 facts を欠きうる点を課題として指摘。 - 従来は memory と skills を別々に扱いがちだが、両者を双方向に学習させ、互いが将来の学習経験に影響する点を扱う。 - 10 設定中 7 比較で MemCryst が優位と報告。ALFWorld で joint serving 63.17%、memory-only 59.83%、skill-only 50.50%。

- frozen language model を前提とし、model 自体の書き換えではなく context を適応させる。 - memory 内の recurring episodes を用いて skill を作成・改訂する。 - skill に導かれた相互作用から新たな memory を蓄積し、memory と skill の学習を双方向に循環させる。 - 推論時は memory から取得した facts と learned skills を joint に context へ供給する。 - task outcomes により、実際に供給された records の将来の retrieval influence を調整するが、record 内容自体は書き換えない。

- embodied control、long-document reading、conversation、mathematics、code にまたがる 10 設定で評価。 - 報告された 7 比較で MemCryst が先行手法を上回ると記載。 - ALFWorld において joint serving が 63.17% success、memory-only が 59.83%、skill-only が 50.50%。 - 詳細なベースライン名や他の設定の数値は要旨からは不明。

- memory と skills の joint serving が memory-only や skill-only より高い性能を示す点を議論。 - task outcomes に基づき retrieval influence を調整するが record 内容を書き換えない設計の効果や限界は要旨からは不明。 - frozen language model で lifelong adaptation を実現する際の context window 制約下での挙動は要旨からは不明。 - 各設定での失敗要因や memory と skill の寄与分解は要旨からは不明。

- ALFWorld における memory-only / skill-only serving との比較研究。 - LLM agent の lifelong learning における memory retrieval 手法。 - LLM agent の skill learning / skill library 構築手法。 - frozen language model を用いた context adaptation や in-context learning に関する研究。