日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
連合学習arXiv:2610.02957

連合学習における世界モデル学習の軌道不均一性の理解

Understanding Trajectory Heterogeneity in Federated World Model Learning

シェア:XThreadsFacebookLINEはてブBluesky

MIMIC-IVの8疾患コホートで連合学習による世界モデルを評価し、クライアント所有権と参加が長期軌道カバレッジを制限し、重症度分割がFedAvg誤差を増大させることを示した。

詳しい要約

1. どんなもの？

- 連続する時系列データから状態の時間発展を学習する world model を、federated learning で分散学習する設定を扱う。 - MIMIC-IV の8つの disease cohort を用い、hourly action-conditioned clinical prediction をベンチマークする。 - 40.87 million transition memberships を含み、severity に基づく client ownership と patient-separated construction を規定する。 - 1〜32時間の paired rollout evaluation を行う。

2. 先行研究と比べてどこがすごい？

- 従来の federated learning 研究は主に独立同分布的なサンプルを想定し、trajectory の時間的連続性と client 所有権の制約を同時に扱っていない。 - 本研究は cross-time 設定を明示的にベンチマークし、temporal access と participation coverage を評価軸として導入する。 - 10種の federated algorithm を32 disease-partition 構成で比較し、既存手法の限界を体系的に示す。

3. 技術・手法の肝は？

- severity に基づく client ownership を定義し、patient-separated construction でデータを分割する。 - local history と future-window のルールを規定し、各 client が構築できる transition を制限する。 - 1〜32時間の paired rollout evaluation を実施する。 - 10種の federated algorithm を5ラウンド・10% participation で適用し、32 disease-partition 構成を比較する。

4. どうやって有効だと検証した？

- MIMIC-IV の8 disease cohort で hourly action-conditioned clinical prediction を実行する。 - 40.87 million transition memberships を用い、32 disease-partition 構成で評価する。 - 5ラウンド・10% participation の下で10種の federated algorithm を比較する。 - 結果として、long-window coverage の制限、FedAvg 誤差と severity partition の関係、algorithm 間の更新挙動の差異を報告する。

5. 議論はある？

- client ownership と participation が long-window coverage を制限し、pooled-available 32-step window のうち locally complete anchor は平均7.55%〜21.36%のみ。 - 16組中15組で severity partition が細かいほど FedAvg 誤差が高い。 - FedProx は平均誤差を0.56%削減するが、32ステップでは一貫した改善なし。 - algorithm label は更新挙動の違い（inactive extrapolation や更新スケールの桁違い）を隠蔽する。 - cached-update performance も trajectory partition 間で大きく変動する。

6. 次に読むべき論文は？

- FedAvg, FedProx など本研究で比較された federated algorithms の原論文。 - MIMIC-IV を用いた clinical prediction や world model に関する研究。 - federated learning における client heterogeneity や participation 制約を扱う研究。 - trajectory の時間的依存性を考慮した federated learning の手法。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yipan Wei, Zhaokun Yan, Ziming Hong, Jiaqi Wu, Lixu Wang

分類: cs.LG, cs.CL

原文アブストラクト

World models learn state evolution from trajectories, making access to temporal context a central training requirement. Federated learning can use distributed records, while ownership boundaries within a trajectory restrict the examples each client can construct. Our study benchmarks this cross-time setting through hourly action-conditioned clinical prediction on eight MIMIC-IV disease cohorts, comprising 40.87 million transition memberships. We specify severity-based client ownership, patient-separated construction, local history and future-window rules, and paired rollout evaluation from one to 32 hours. A matrix of ten federated algorithms covers 32 disease--partition configurations under five rounds of ten-percent participation. Three findings emerge from existing results and training logs. First, client ownership and participation jointly restrict long-window coverage: only 7.55\%--21.36\% of pooled-available 32-step windows have a locally complete anchor visited during training, averaged across diseases. Second, finer severity partitions accompany higher FedAvg error in 15 of 16 paired comparisons, while algorithm gains are small and horizon-dependent: FedProx reduces mean error by 0.56\%, with no consistent improvement at 32 steps. Third, algorithm labels conceal distinct update behavior, including inactive extrapolation and orders-of-magnitude differences in update scale. Cached-update performance also varies strongly across trajectory partitions under the same benchmark protocol. These results establish temporal access, participation coverage, optimization behavior, and horizon-resolved prediction as complementary dimensions for evaluating federated clinical world models.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧
PR本紙発行元 EmplifAI