Avi Mendelson

収録論文 1本 ・ フィジカルAI/ロボット学習

※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。

論文

• 自発的隷従：AIエージェントを制御するための安全警告メカニズムの悪用
  エージェントセキュリティ2026/11/3

  エージェントの危険回避機能を逆手に取り、偽の危険情報を含むレビューで正当な選択肢を排除させ攻撃者の標的に誘導する手法を提案し、既存の検出器を回避しつつ約60%の成功率で誘導できることを示した。