解釈可能性2026/9/14arXiv:2609.15277

人工起業家認知：大規模言語モデル内部の機会認識ダイヤルの特定と因果的操作

Artificial entrepreneurial cognition: Locating and causally steering an opportunity recognition dial inside large language models (LLMs)

シェア:X Threads Facebook LINE はてブ Bluesky

LLM内部に起業家の機会認識に対応する表現方向を発見し、その方向を操作することで機会判断を因果的に変化させられることを示した研究。

詳しい要約

1. どんなもの？

- LLM内部の起業家認知を調べる新概念「artificial entrepreneurial cognition」を提案。 - 起業機会認識(opportunity recognition, OR)に関し、LLM内部にOR方向を同定。 - Llama 3.1 8B-InstructでOR-present/absentの636ペアを作成。 - その方向を介入操作し、OR判断を上下に変える「opportunity recognition dial」を実現。 - 起業家精神の構成概念に対するLLM内部表現への初の因果介入と主張。

2. 先行研究と比べてどこがすごい？

- 従来はLLMの出力から起業家認知を推論するのみで、内部表現は未探索。 - 本研究はmechanistic interpretabilityとrepresentation engineeringを起業家研究に導入。 - 出力推論でなく内部方向への直接介入で因果性を示す点が新しい。 - OR方向がopportunity evaluationやexploitationの方向と幾何的に異なることを示す。 - 4つの追加LLMでも再現し、スケールやファミリーを超えた一般性を示唆。

3. 技術・手法の肝は？

- 636のマッチしたOR-present/absentシナリオペアを構築。 - Llama 3.1 8B-InstructからOR方向を表現工学で抽出。 - その方向に沿ってモデルを上下に操舵し、OR判断の変化を観測。 - held-outテスト、語彙・トピック統制、行動的アブレーション、幾何比較で検証。 - 4つの追加LLMで回復・符号付き操舵・幾何分離を確認。

4. どうやって有効だと検証した？

- held-outテストでOR方向の回復可能性を確認。 - 語彙的・トピック的統制で交絡を排除。 - 行動的アブレーションで方向の因果的寄与を検証。 - 幾何比較でOR方向が評価・活用方向と異なることを確認。 - 4つの追加LLMで回復・操舵・分離が再現。

5. 議論はある？

- ORと評価の区別に具体的な表現形式を与える。 - 内部表現を起業家研究の新たな対象とする。 - 起業家理論が表現の同定・因果操作・解釈を導けることを示す。 - 操舵が隣接段階(評価・活用)の判断も変える点は議論の余地。 - 限界や倫理的含意は要旨からは不明。

6. 次に読むべき論文は？

- opportunity evaluationに関する研究 - opportunity exploitationに関する研究 - mechanistic interpretabilityの関連研究 - representation engineeringの関連研究 - Llama 3.1 8B-Instructのモデルカード

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Christian Fisch, Angela Altmeier, Martin Obschonka, Michal Kosinski, Pin Ni

分類: cs.CL, cs.LG

原文アブストラクト

Entrepreneurial cognition is a foundation of entrepreneurship research. Yet the growing involvement of large language models (LLMs) in entrepreneurial work extends the cognition question beyond human actors to systems whose internal representations remain largely unexplored. We introduce artificial entrepreneurial cognition, the functional organisation of entrepreneurship-relevant representations and computations inside artificial intelligence (AI) systems. We bring mechanistic interpretability into entrepreneurship research through representation engineering. Focusing on opportunity recognition (OR), we construct 636 matched OR-present and OR-absent scenario pairs and recover an OR direction in Llama 3.1 8B-Instruct. Rather than infer the construct from outputs, we intervene directly on this direction, steering the model up and down along what we call the opportunity recognition dial, and its opportunity judgments shift with it. To our knowledge, this is the first causal intervention on an internal representation of an entrepreneurship construct inside an LLM. Held-out tests, lexical and topical controls, behavioural ablation, and geometric comparisons show that the direction is recoverable, consequential, and distinct from the opportunity evaluation and exploitation directions, although steering it also shifts judgments about these neighbouring stages. Recovery, signed steering, and geometric separation hold across four additional LLMs spanning different scales and families. These results give the contested distinction between opportunity recognition and evaluation a concrete representational form inside AI systems. More broadly, they establish internal representations as a new object of entrepreneurship inquiry and show how entrepreneurship theory can guide their identification, causal manipulation, and interpretation.

arXivで原文を読む →arXiv概要ページ