Zhen Xiang
収録論文 2本 ・ フィジカルAI/ロボット学習
敵対的攻撃安全性評価
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- TAPDreamer: ワールドアクションモデルに対する転移可能な敵対的パッチ敵対的攻撃2026/10/5
公開エンコーダのみを用いて、タスクや行動アーキテクチャをまたいで転移する固定の敵対的パッチを生成し、ワールドアクションモデルの成功率をほぼゼロに低下させる攻撃手法を提案した。
- SafeAgentBench:身体性LLMエージェントの安全なタスク計画のためのベンチマーク安全性評価2024/12/1
対話型シミュレーション環境で身体性LLMエージェントの安全性を評価する初のベンチマークを提案し、750タスクと評価環境を構築した。実験では既存エージェントの安全意識が低いことを示した。