因果性が意味のギャップを橋渡しする方法

数値計測が捉えるシステムの振る舞いにおいて、変数の意味が未指定である問題（一部は計測されるがラベルなし、一部は未計測）を扱う研究。因果構造から変数の意味を読み取る『structure-constrained semantic alignment』を定式化し、これを実装したフレームワーク CausalBridge を提案。計測から因果グラフを発見し、潜在変数を含む変数の埋め込みを依存関係の下で解き、language model で名前に変換する。

既存手法は一般的人間知識を参照して変数に意味を付与するため、知識が存在する領域ではバイアスを継承し、存在しない領域では何も提供できない。CausalBridge は人間知識に依存せず、計測のみから復元される因果構造を用いるため、バイアスから自由な情報源となり得る。association に依拠する既存手法より観測変数・潜在変数の意味を正確に復元し、システムの文書化が少ないほど優位が広がる。

structure-constrained semantic alignment として、因果グラフが示す依存関係の下で各未命名変数の埋め込みを、少数の既知名の埋め込みをアンカーとして解く。CausalBridge は計測から潜在変数を含む因果グラフを発見し、その関係の下で埋め込みを解き、language model を通じて名前に表現する。

5つの questionnaires と3つの robotics scenarios で評価し、変数名の20〜90%をマスク。観測変数と潜在変数の意味を association ベースの既存手法より正確に復元し、文書化が少ないほど差が広がることを示す。発見したグラフは文書化されたグラフと同程度に正確に変数を命名し、新しいシステムは数分で、sampling 手法より低コストで命名できる。

因果構造は計測を生成したメカニズムを反映し、計測のみから復元されるため、人間知識からのバイアスを含まない唯一の情報源になり得ると主張。意味のギャップが忠実に橋渡しされれば、機械は世界を理解し因果的に行動できると述べる。具体的な限界や反論については要旨からは不明。

要旨で参照・比較されているのは association に依拠する既存手法と sampling 手法。関連手法として causal discovery、latent variable modeling、semantic alignment、language model による naming が挙げられる。同分野の定番として causal representation learning や structure learning も次に読む候補。