Kaushik Kezendirane
収録論文 1本 ・ フィジカルAI/ロボット学習
報酬ハッキング検出
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- ハッキングか単なる失敗か?高性能LLMモニターが報酬ハッキングと正直な失敗をよりよく区別する報酬ハッキング検出2026/10/30
エージェントの見かけのスコアが実際の進捗を上回る原因(報酬ハッキングか単純なミスか)を区別するため、サンドボックス課題と反事実的ラベリングを構築し、小規模ローカルモニターとGeminiを比較評価した。