SkillGLoW: 手続き的ファミリーのスキル統合による長期的タスクストリーム上の自己改善エージェント

SkillGLoWは、LLMエージェントが長期的なタスクストリーム上で自己改善するための手法。タスクの実行から得られるローカルスキルを、手続き的ファミリー（procedural families）に集約し、インスタンス固有の詳細を除去したグローバルな事前知識（global priors）として圧縮する。各タスクでは、その事前知識を基にインスタンス固有の詳細を再生成する。コミットゲートにより、実際の実行でライブラリを劣化させない場合のみ事前知識を採用する。

従来の手法は、スキルを単一のグローバル文書として保持するか、タスクごとのフラットなプールとして保持するかの二択だった。しかし、長期的で多様なタスクでは、前者は汎用的すぎて具体性を失い、後者はエントリが爆発的に増え、各エントリがそれを書いたインスタンスに固着してしまう。SkillGLoWは、再利用の単位を「関連タスク群が共有する解決手順」とすることで、このジレンマを解決し、コンパクトで転移可能なライブラリを実現している。

手法の核は、ローカルスキルの集約と圧縮、および再生成の仕組みにある。具体的には、各タスクが自身の実行から書いたローカルスキルを、手続き的ファミリーにクラスタリングし、それらをインスタンス非依存のグローバル事前知識に圧縮する。タスク実行時には、その事前知識からインスタンス固有の詳細を再生成する（保存しない）。さらに、コミットゲートが、実際の実行でライブラリの性能を劣化させない場合のみ事前知識をライブラリに追加する。

4つのベンチマーク（数学的推論、ターミナル自動化、ソフトウェア修復、身体化制御）と3つのモデルで検証。スキルなしベースラインに対して、ハードタスクで平均17.2ポイントの改善、12の継続的改善ランすべてで正のゲインを確認。ローカル再生成を加えると18.0ポイント。ライブラリは手続き的ファミリーごとに1つの事前知識を持ち、タスクごとのプールより3.6倍コンパクト。公開された単一文書最適化手法との比較では、21セル中15セルで優位。未修正のライブラリは、未見のALFWorldタスクの成功率を73.9%から83.9%に向上させ、転移するのはタスク記憶ではなく手続きであることを示した。

要旨からは、提案手法の限界や潜在的な問題についての議論は不明。ただし、手続き的ファミリーの自動発見の難しさや、事前知識の質がタスクの多様性に依存する可能性などが考えられるが、要旨には明記されていない。

要旨で参照されているのは、単一文書最適化手法（published single-document optimizer）と、スキルをプールとして保持する手法。また、ベンチマークとしてALFWorldが挙げられている。次に読むべき論文としては、これらの比較対象となった手法の詳細論文や、ALFWorldを用いた関連研究が考えられる。