arXiv (ML)AI
TITLE_JA: AuditWeave:AI支援および数据変換ワークフローのための改ざん検出可能な監査追跡レイヤー
AuditWeave: A Tamper-Evident, Auditor-Navigable Evidence Layer for AI-Assisted and Data-Transformation Workflows
この記事についてAIに質問する →
日本語要約青い用語にマウスを合わせると解説が表示されます
規制対象となる監査、金融、医療などの領域においてAIシステムが重要な意思決定を支援する場面が増えています。こうした文脈では、組織に対して特定の結論に至った根拠となる証拠を事後的に再構築し、その推論記録が改ざんされていないことを示す義務が生じます。既存のツールはモデル観測性、ドリフト監視、ガバナンスレポーティングなど関連する問題に対応していますが、これらはシステムを運用する機械学習エンジニア向けに設計されており、特定の結論をその根拠となる証拠まで遡る必要がある監査人や審査者のニーズに応えるものではありません。
今回発表されたAuditWeaveは、依存関係のない軽量なPythonライブラリで、AI支援および数据変換ワークフローのステップを単一の追記専用のハッシュチェーン台帳に記録します。小規模でシステム非依存のイベント語彙により、検索拡張生成(RAG)パイプラインと表形式・レイクハウス変換の両方をカバーでき、両方の要素を活用した結論であっても単一の記録を通じてエンドツーエンドで追跡可能です。封印された台帳内では、イベントの任意の修正、並び替え、挿入、削除はチェーン検証を通じて検出できます。
開発チームはAuditWeaveの設計を説明し、参照実装における記録オーバーヘッド、スケーラビリティ、改ざん検出の正確性を評価しました。整合性保証は1イベントあたり数十マイクロ秒のコストで実現でき、ハッシュチェーン構造の特性により、2000回のランダム化試行にわたって4つの改ざんクラスに関するすべての挿入された変更を検証が検出しました。