解釈可能性2026/8/19arXiv:2608.18936

解釈可能なアーキテクチャのグラフィカル設計

Graphical Design of Interpretable Architectures

解釈可能なAIアーキテクチャを設計・比較するためのグラフィカル表記法を提案し、PyTorchのeinsumコードと一対一対応することを示した。

詳しい要約

1. どんなもの？

本論文は、解釈可能なAIアーキテクチャを設計・実装・比較するための形式的なグラフィカル表記法を導入する。Penrose tensor notationを応用したこの表記法は、アーキテクチャの全体像を一目で把握でき、PyTorchのeinsumコードと一対一に対応する。

2. 先行研究と比べてどこがすごい？

従来の表現方法は、記号方程式は全体像を把握しにくく、確率的グラフィカルモデルやフローチャートは実際のテンソル操作を記述しないため、重要な洞察が隠され再現性が制限される。本手法は、全体像の把握とテンソル操作の正確な記述を両立する点で優れている。

3. 技術・手法の肝は？

手法の核は、Penrose tensor notationを応用したグラフィカル表記法であり、各テンソル操作を図形的に表現し、アーキテクチャの構造を視覚化する。この表記はPyTorchのeinsumコードに直接変換可能で、設計から実装までの橋渡しとなる。

4. どうやって有効だと検証した？

まず、concept bottlenecks、sparse probes、prototype networks、neural additive models、mixtures of linear modelsなど、解釈可能なアーキテクチャを本表記法で記述した。さらに、フロンティアの解釈可能言語モデルであるSteerling-8Bの主要な構成要素を図示し、その図からアーキテクチャの全体像（残差モデルであることなど）や各操作の幾何学的解釈が得られ、33行のPyTorchコードに直接変換できることを示した。

5. 議論はある？

要旨からは、本表記法の限界や他の表現との比較に関する議論は不明。ただし、表記法がeinsumコードに限定されるため、より複雑な操作（例えば、非テンソル的な制御フロー）の表現には課題がある可能性が考えられるが、要旨では言及されていない。

6. 次に読むべき論文は？

要旨で参照されている関連研究として、Penrose tensor notationの原典、およびconcept bottlenecks、sparse probes、prototype networks、neural additive models、mixtures of linear modelsに関する各手法の論文が挙げられる。また、Steerling-8Bの詳細な論文も関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Pietro Barbiero

分類: cs.LG, cs.AI, cs.NE

原文アブストラクト

Designing, implementing, and comparing interpretable architectures requires a formal language to represent them. The most common representations fall short in one of two ways. Symbolic equations give no global view of an architecture at a glance. Probabilistic graphical models and flowcharts do not describe actual tensor manipulations, thus hiding key insights and limiting reproducibility. To close this gap, we introduce a graphical notation for designing interpretable AI architectures, adapted from Penrose tensor notation. This graphical notation gives a global view of an architecture and maps one to one onto PyTorch einsum code. We first use this notation to describe architectures that are interpretable by construction, including concept bottlenecks, sparse probes, prototype networks, neural additive models, and mixtures of linear models. We then diagram the key architectural components of Steerling-8B, a frontier interpretable language model. The diagram yields global insights into the architecture (e.g., showing that Steerling is a residual model), a geometric interpretation of each individual operation, and a direct translation into 33 lines of PyTorch code.

arXivで原文を読む →arXiv概要ページ