セキュリティ/公平性2026/8/21arXiv:2608.21577

アンカリングバイアス：継続学習下のMLLMに対する持続的な公平性バックドア攻撃

Anchoring Bias: A Persistent Fairness Backdoor Attack against MLLMs under Continual Learning

マルチモーダル大規模言語モデル（MLLM）に、継続学習後も持続する公平性侵害バックドアを注入する攻撃手法PFBAを提案した。

詳しい要約

1. どんなもの？

本論文は、Multimodal Large Language Models (MLLMs) に対する新たなバックドア攻撃である Persistent Fairness Backdoor Attack (PFBA) を提案している。PFBAは、継続学習 (Continual Learning, CL) の過程で持続する、グループ固有の差別（fairness violation）を注入することを目的とする。具体的には、潜在空間での特徴幾何学の再形成と、継続学習のシミュレーションによるトリガーの最適化という2つのメカニズムを用いる。

2. 先行研究と比べてどこがすごい？

先行研究では、バックドア攻撃がMLLMの応答を操作できることが示されているが、単純に埋め込まれたバックドアはその後のCL更新で劣化する。また、fairnessに関するバックドア攻撃は未探索であり、fairness違反がCLを生き残るかどうかは不明だった。PFBAは、fairnessを標的としたバックドアをCL後も持続させる点で新規性がある。

3. 技術・手法の肝は？

PFBAは2つの新規メカニズムからなる。1つ目はLatent Space Fairness Reinforcementで、特権グループの表現をアンカーしてユーティリティを維持しつつ、標的グループの表現を反発・クラスタリングすることで差別を持続させる。2つ目はContinual Learning Simulationで、シミュレートされたパラメータドリフトに対してトリガーを反復最適化し、将来の更新後もバックドアが持続するようにする。

4. どうやって有効だと検証した？

広範な実験により、PFBAが継続学習のラウンドをまたいで深刻なfairness格差を誘発し、標準的なバックドア防御を回避することを実証した。データとコードは公開されている。

5. 議論はある？

要旨からは、PFBAの有効性は示されているが、防御策の限界や実世界での適用可能性、倫理的な影響などについての議論は明示されていない。また、実験の具体的なデータセットやベースライン、評価指標は要旨からは不明である。

6. 次に読むべき論文は？

要旨で参照されている先行研究は、MLLMsに対するバックドア攻撃と継続学習に関するものである。具体的な論文名は不明だが、関連分野の定番として、バックドア攻撃の一般的手法（BadNets, Neural Cleanse）や継続学習の手法（EWC, iCaRL）などが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuyang Luo, Kai Shu

分類: cs.LG, cs.AI

原文アブストラクト

Multimodal Large Language Models (MLLMs) are increasingly deployed in high-stakes domains where fairness is a critical safety requirement. In practice, these models are continually updated through continual learning (CL) to adapt to evolving tasks and data distributions. Prior work has shown that backdoor attacks can manipulate MLLM responses through hidden triggers, but naively implanted backdoors degrade as models undergo subsequent updates of CL. Although fairness has emerged as a central concern for MLLM deployment, whether backdoor-induced fairness violations can survive CL remains unexplored, leaving two critical questions unanswered: (1) whether a backdoor can reliably induce fairness violations in MLLMs, and (2) whether such fairness-targeted backdoors can persist through continual learning. We bridge this gap by proposing Persistent Fairness Backdoor Attack (PFBA) to inject persistent and group-specific discrimination into MLLMs. Specifically, PFBA achieves this through two novel mechanisms. The Latent Space Fairness Reinforcement reshapes the model's deep feature geometry by anchoring privileged-group representations to preserve utility while repelling and clustering targeted-group representations to sustain discrimination, and the Continual Learning Simulation iteratively optimizes the trigger against simulated parameter drift to ensure backdoor persistence across future updates. Extensive experiments demonstrate that PFBA induces severe fairness disparities that persist across continual learning rounds, evading standard backdoor defenses. The data and code are publicly available at https://github.com/lyygua/PFBA.

arXivで原文を読む →arXiv概要ページ

← 論文一覧