日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

週刊ニュースレター購読
画像フォレンジクスarXiv:2609.37783

法廷におけるAI改ざん画像検出のためのベンチマークとデータセット

A Benchmark & Dataset for Detecting AI-Manipulated Visual Evidence in the Court System

シェア:XThreadsFacebookLINEはてブBluesky

法廷で証拠として使われる監視カメラやドライブレコーダー、スマホ写真を対象に、生成AIによる改ざん・捏造画像を検出するためのベンチマークとデータセットを構築した。

詳しい要約

1. どんなもの?

- 法廷・司法制度における証拠画像の真正性を評価するためのベンチマークとデータセット。 - 名称は CIFAR Synthetic Evidence Corpus for Detecting AI-Manipulated Images。 - 1,505 の写真項目(真正コントロール 720、操作・捏造画像 785)を含む。 - 監視カメラ、ドライブレコーダー、消費者向け写真の画像を対象。 - 操作は scene-condition edits、localized element edits、full fabrications に分類。 - 各項目に source provenance、manipulation tier、subtype、generator、prompt template、scene attributes のメタデータを付与。

2. 先行研究と比べてどこがすごい?

- 既存の image-forensics ベンチマークは face manipulation、classical tampering、general synthetic-image detection に焦点。 - それらは法廷に提出される視覚証拠の形式、証拠の証明内容を変える局所編集、消費者ツールによる脅威モデルに組織化されていない。 - 本ベンチマークは司法制度が直面する consumer-tool threat model に合わせて設計。 - 集約的な二値検出を超えた制御評価を可能にする構造化メタデータを提供。

3. 技術・手法の肝は?

- 監視、ドライブレコーダー、消費者写真の画像を収集。 - 真正コントロールと操作・捏造画像を区別してコーパスを構築。 - 操作を scene-condition edits、localized element edits、full fabrications の階層に分類。 - 現代の generative systems を用いて操作・捏造を生成。 - 各項目に source provenance、manipulation tier、subtype、generator、prompt template、scene attributes のメタデータを付与。 - 公開されている image-manipulation detectors でベースラインを確立。

4. どうやって有効だと検証した?

- 公開されている image-manipulation detectors を用いてベースライン評価を実施。 - 現在のシステムが証拠利用に問題となるエラープロファイルを示すことを確認。 - データセット、プロンプト、メタデータ、コード、ベースライン評価スクリプトを公開し、研究を支援。

5. 議論はある?

- 既存の法的・技術的ワークフローは画像改変・捏造の評価に十分対応していない。 - 現代の generative systems により非専門家でもプロンプトベースで画像を改変・捏造可能。 - 現在の検出システムのエラープロファイルは証拠利用に問題が残る。 - 要旨からは、具体的な議論の詳細や限界については不明。

6. 次に読むべき論文は?

- 要旨で参照されている既存の image-forensics ベンチマーク(face manipulation、classical tampering、general synthetic-image detection に関するもの)。 - 公開されている image-manipulation detectors のベースライン研究。 - 同分野の定番として、image forensics、synthetic image detection、deepfake detection に関する一般的な研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kelly McConvey, Sajad Ebrahimi, Nima Jamali, Jalehsadat Mahdavimoghaddam, Matina Mahdizadeh Sani, Maksym Taranukhin, Wentao Zhang, Jacquelyn Burkell, Yuntian Deng, Karen Eltis, Maura R. Grossman, Vered Shwartz, Ebrahim Bagheri

分類: cs.CV, cs.AI

原文アブストラクト

Photographic evidence is becoming increasingly vulnerable to forms of alteration and fabrication that existing legal and technical workflows are not well equipped to evaluate. Surveillance frames, dashcam stills, and phone photographs may be used to establish presence, sequence, causation, damage, or identity, yet contemporary generative systems allow non-experts to alter or fabricate such images through ordinary prompt-based interfaces. Existing image-forensics benchmarks provide important resources for face manipulation, classical tampering, and general synthetic-image detection, but they are not organized around the forms of visual evidence submitted in courts, the localized edits that can change what an exhibit appears to prove, or the consumer-tool threat model now facing the justice system. We introduce the CIFAR Synthetic Evidence Corpus for Detecting AI-Manipulated Images, a benchmark for evidentiary image authentication in court and justice-system contexts. The corpus contains 1,505 photographic items, including 720 authentic controls and 785 manipulated or fabricated images, spanning surveillance, dashcam, and consumer-photo imagery. Manipulations are organized into scene-condition edits, localized element edits, and full fabrications produced with contemporary generative systems. Each item is released with structured metadata covering source provenance, manipulation tier, subtype, generator, prompt template, and scene attributes, enabling controlled evaluation beyond aggregate binary detection. We also establish baselines with publicly available image-manipulation detectors, showing that current systems exhibit error profiles that remain problematic for evidentiary use. The dataset, prompts, metadata, code, and baseline evaluation scripts are released to support research on visual evidence authentication, information integrity, and trustworthy AI for the justice system.

PR本紙発行元 EmplifAI