Wo Wei Lin
収録論文 1本 ・ フィジカルAI/ロボット学習
強化学習セキュリティ
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- 信頼できないシミュレータに注意:強化学習における報酬なしバックドア攻撃強化学習セキュリティ2026/2/1
シミュレータのダイナミクスを改ざんして、報酬を操作せずに強化学習エージェントに行動レベルのバックドアを仕込み、特定のトリガーで危険な行動を引き起こす攻撃手法「Daze」を提案し、実機ロボットへの転移も示した。
世界のフィジカルAIを、日本語で。
収録論文 1本 ・ フィジカルAI/ロボット学習
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
シミュレータのダイナミクスを改ざんして、報酬を操作せずに強化学習エージェントに行動レベルのバックドアを仕込み、特定のトリガーで危険な行動を引き起こす攻撃手法「Daze」を提案し、実機ロボットへの転移も示した。