ロボットセキュリティのためのプログラムレベル敵対的共適応自己対戦フレームワーク
Program-Level Adversarial Co-Adaptive Self-Play for Robotic Security
コーディングエージェントが攻撃と防御のプログラムを相互に生成・改訂する自己対戦フレームワークを提案し、自動運転とヒューマノイド歩行の2事例で適応と限界を実証した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Leo Benaharon, Chi Zhang, Wei Zheng, Weifan Zhang, Yifan Wei
分類: cs.RO
原文アブストラクト
Coding agents can adapt robotic software by revising executable programs, but successful responses to an evolving opponent may not remain effective. We present a framework for program-level adversarial co-adaptive self-play in which coding agents generate attacks and defenses from tested opponent code and mission feedback, without model fine-tuning. Environment-specific interfaces support external programs for autonomous driving and SDK-level defenses for humanoid locomotion. Two eight-generation case studies reveal concrete software responses: a driving defender introduces direct-actuation recovery, while a humanoid defender revises incoming-state validation. These responses provide local task recovery but do not establish sustained robustness. The framework makes such adaptation and limitations observable through executable artifacts and task-level evidence.
関連論文
- 学習ベース産業用ロボットアーム操作におけるバックドア:実証的セキュリティ研究ロボットセキュリティ
- プロンプトから物理動作へ:LLM搭載ロボットシステムの包括的脅威モデリングロボットセキュリティ
- EU AI法遵守のためのロボティクス・自律システムのサイバーセキュリティ対策ロボットセキュリティ
- POEX:LLMベースロボットに対するポリシー実行可能なジェイルブレイク攻撃ロボットセキュリティ
- LLM統合型移動ロボットシステムに対するプロンプトインジェクション攻撃の研究ロボットセキュリティ
- センサ欺瞞攻撃からロボット車両を守る診断誘導型攻撃復旧ロボットセキュリティ