日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

敵対的攻撃arXiv:2611.25469

羊の皮を被ったピクセル:HDRゲインマップを悪用した視覚カモフラージュ攻撃

A Wolf in Sheep's Pixels: Visual Camouflage Attacks via HDR Gain Maps

シェア:XThreadsFacebookLINEはてブBluesky

HDR表示のゲインマップ再構成を逆手に取り、1枚のJPEGにSDRベースと異なるHDR画像を埋め込み、自動モデレーションを回避しつつ人間には有害コンテンツを見せる攻撃DRJanusを提案した。

詳しい要約

1. どんなもの?

- 画像の自動安全チェックと人間の見え方の乖離を突く visual camouflage attack「DRJanus」の提案 - 単一の JPEG 内に、SDR base と HDR 表示時の再構成画像という独立した2つの色画像を埋め込む - 自動モデレーション回避とエージェントのタスク操作の両方を狙う - デモ公開あり

2. 先行研究と比べてどこがすごい?

- 従来の adversarial attack は対象モデルへの query や最適化を要することが多い - DRJanus は target model への query・最適化なしで攻撃を成立させる - SDR 処理と HDR 表示のギャップ(HDR gain map)という表示パイプラインの性質を悪用する点が新しい - 選んだ SDR base を厳密に保持しつつ HDR target を再構成できる

3. 技術・手法の肝は?

- HDR 表示時の再構成処理(gain map を用いた復元)を逆手に取り、2つの画像を1つの JPEG に符号化 - SDR base は指定画像をそのまま保持し、HDR 側で別の色画像が再構成されるよう gain map を設計 - 対象モデルへの query・最適化を必要としない構成 - 平均 PSNR 43.03 dB(400画像)で HDR target を再構成

4. どうやって有効だと検証した?

- 400画像で HDR target 再構成の PSNR を評価 - sexual-content 画像100枚のベンチマークで、商用モデレーション6サービスと vision-language model 9種すべてを回避 - 5つの agent で各脅威設定120タスクケースを評価し、moderation evasion の attack success 31.67%〜100%、task manipulation 95%〜100% - 緩和策として cross-view consistency check を検討

5. 議論はある?

- 「機械が読むもの」を守っても「ユーザが見るもの」は守れないという visual trust のギャップを指摘 - cross-view consistency check を緩和策として探索しているが、有効性の詳細は要旨からは不明 - 攻撃成功率のばらつき(moderation evasion 31.67%〜100%)の要因は要旨からは不明 - 実運用の HDR viewer 依存性や倫理的影響の議論は要旨からは不明

6. 次に読むべき論文は?

- HDR gain map / HDR 表示パイプラインの規格・実装に関する文献 - adversarial attack と visual camouflage の先行研究(query-based attack 等) - vision-language model に対する moderation 回避研究 - agent のタスク操作(task manipulation)に関する研究 - cross-view consistency check など表示間整合性を用いた防御手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Qi Shen, Yujia Gong, Yue Zhao, Tong Liu

分類: cs.CV, cs.AI

原文アブストラクト

An image can pass automated safety checks while showing harmful content to its human viewer. We introduce DRJanus, a visual camouflage attack that exploits the gap between standard dynamic range (SDR) processing and high dynamic range (HDR) display. Automated systems often read only an image's SDR base, whereas HDR viewers reconstruct its appearance using an auxiliary gain map. DRJanus inverts this reconstruction to embed two independently chosen color images in a single JPEG, without querying or optimizing against the target model. It preserves the chosen SDR base exactly and reconstructs HDR targets at an average PSNR of 43.03 dB across 400 images. On a benchmark of 100 sexual-content images, DRJanus evades detection by all six tested commercial moderation services and nine vision-language models. Across five agents, each evaluated on 120 task cases per threat setting, attack success ranges from 31.67% to 100% for moderation evasion and from 95% to 100% for task manipulation. We also explore cross-view consistency checks as a mitigation. These findings expose a gap in visual trust: securing what a machine reads does not secure what a user sees. A demo is available at https://qshen0629.github.io/DRJanus/

関連論文

  1. 1パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  2. 2川崎重工業のロボット外販を報道新製品・発表
  3. 3Boston Dynamics、GlobalFoundriesでAtlasを試験へ 半導体製造で2027年初頭から半導体・GPU
  4. 4丸文、RealManのロボットアームやヒューマノイドを国内販売提携・買収
  5. 5NVIDIA、SC26で科学研究向けAIエージェントとHPC基盤を発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI