安全保証のためのエッジケースシナリオを生成するローカルエージェントAIフレームワーク

- 自動運転システムなどの安全性保証のため、エッジケースシナリオを生成するローカルエージェントAIフレームワーク。 - ラップトップ上で動作するローカルLMを用い、think, act, observe, update, continueループと軽量JSONエンコーディングでシナリオを生成。 - システム要件、システム記述、環境記述を知識ベースとして文脈プロンプトに利用し、シナリオのリアリズムを確保。 - 独立した第2のLMがドメイン固有基準でシナリオを批評し、洗練。 - 洗練されたシナリオをシミュレーションで実行し、評価指標を収集。指標スコアを分析し、類似シナリオ（活用）または新規シナリオ（探索）を生成。 - 事後クラスタリングとテーマ型分析により、機能ギャップとそのトリガー条件を特定し、安全性保証ケースの追跡可能な証拠を生成。

- 従来のLMシナリオ生成はhuman-in-the-loopやルールベース戦略に依存し、多様なエッジケース（分布のロングテール）生成が制限されていた。 - 本研究はローカルLMをエージェントAIフレームワークに組み込み、適応的シナリオ生成を実現。 - 安価で完全に制御可能、データプライバシーとセキュリティを確保。 - 人間の介入なしに多様なエッジケースを生成できる点が優れている。

- ローカルLMをラップトップベースのエージェントAIフレームワークで使用。 - think, act, observe, update, continueループと軽量JSONエンコーディングを採用。 - システム要件、システム記述、環境記述を知識ベースとして文脈プロンプトに含める。 - 第2の独立LMがドメイン固有基準でシナリオを批評し、洗練。 - シミュレーション実行と評価指標収集。 - 指標スコア分析に基づき、類似シナリオ（活用）または新規シナリオ（探索）を生成。 - 事後クラスタリングとテーマ型分析で機能ギャップとトリガー条件を特定。

- 洗練されたシナリオをシミュレーションで実行し、評価指標を収集。 - 指標スコアを分析し、類似シナリオ（活用）または新規シナリオ（探索）を生成するループを検証。 - 事後クラスタリングとテーマ型分析により、機能ギャップとトリガー条件を特定。 - これにより安全性保証ケースの追跡可能な証拠を生成できることを示した。 - 具体的な評価指標やシミュレーション環境の詳細は要旨からは不明。

- ローカルエージェントAIフレームワークの柔軟性と適応性が、エッジケース生成の自動化と追跡可能な安全性保証証拠の生成に有望であることを強調。 - 制限や課題については要旨からは不明。 - データプライバシーとセキュリティの確保、低コスト性が利点として挙げられている。

- 要旨で参照/比較されている研究：human-in-the-loopやルールベース戦略を用いたLMシナリオ生成の最近の研究。 - 関連手法：LMシナリオ生成、エージェントAIフレームワーク、シミュレーションベースの安全性保証。 - 同分野の定番：自動運転のエッジケース生成、シナリオベースの安全性評価、LMを用いたテストケース生成。