Chengquan Guo
収録論文 1本 ・ フィジカルAI/ロボット学習
LLMエージェント安全性
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- 注入する場所が重要:LLMエージェントにおける信頼領域効果LLMエージェント安全性2026/10/28
LLMエージェントは環境の場所ごとに暗黙の信頼度を変えており、同じ悪意ある指示でもREADME等に置くとコードファイルより2.6倍従いやすいことを3つのテストベッドで示した。
世界のフィジカルAIを、日本語で。
収録論文 1本 ・ フィジカルAI/ロボット学習
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
LLMエージェントは環境の場所ごとに暗黙の信頼度を変えており、同じ悪意ある指示でもREADME等に置くとコードファイルより2.6倍従いやすいことを3つのテストベッドで示した。