RAGの回答精度と統制を同時に崩す「社内ドキュメント・表データ破損」の防止策
社内RAG(検索拡張生成)を構築した企業から、「期待したほど回答精度が出ない」「古い規程や別部署の数値が混ざって回答される」という相談が絶えません。多くの現場ではLLMのモデル性能やプロンプトの書き方に原因を求めがちですが、実際のボトルネックとセキュリティの死角は、AIへ渡す前段の「社内ドキュメント・表データの管理と前処理(ガバナンス)」にあります。
OWASP Top 10 for LLM Applications 2025 では、RAGやベクトルデータベースを標的・起点とする脅威が LLM08:2025(Vector and Embedding Weaknesses) として定義されています。データ取り込みや埋め込み(Embedding)のパイプラインに不備があると、回答精度が落ちるだけでなく、**メタデータ欠落による権限境界の崩壊(Unauthorized Access)や誤データの混入(Data Poisoning)**を同時に引き起こします。
本記事では、OWASP LLM08:2025および公的機関の知見に基づき、RAGの品質と統制を静かに破壊する「表データ破損・パース崩れ・前処理OSS審査抜け」の構造と、実務で守るべきデータガバナンスの設計原則を解説します。
[!IMPORTANT] 要点サマリー
- 表データの「サイレント破損」が権限と精度を壊す: Excelでのコピペ編集による先頭ゼロ落ち(例:
00124→124)や日付自動変換が部署コード・文書IDで起きると、RAGの回答ミスだけでなくACL(アクセス権限)フィルタリングの誤判定に直結します。- パース崩れとメタデータ欠落はOWASP LLM08の直撃要因: 複雑な表や結合セルの解析崩れ、チャンク分割時の見出し・機密区分タグの脱落は、他部署データの混線(Cross-Context Leak)を招きます。
- 前処理ツールの情シス審査をPoC初期に組み込む: 高精度なドキュメント解析OSSを現場で試作しても、外部通信やライセンス等の情報セキュリティ審査を通過できず本番化が止まるケースが多発しています。
1. RAGの精度とセキュリティを同時に壊す「3つの現場事故」
社内RAGが本番運用に耐えられなくなる背景には、日々のドキュメント作成・更新・取り込みフローに潜む次の3つの構造的な問題があります。
| 事故パターン | 現場で起きている事象 | 精度・セキュリティ双方への悪影響 |
|---|---|---|
| 1. Excelコピペ等による「サイレントデータ破損」 | RAG用の定義表(Markdown / CSV)をExcelに貼り付けて編集・保存し、先頭ゼロの欠落や日付型への勝手な変換、文字コード破壊が発生する | 商品コードや社員番号・部署IDが変質し、検索がヒットしなくなるほか、部署IDをキーにしたACL権限フィルタリングが正常に機能しなくなる |
| 2. パース崩れとメタデータの分断 | 結合セルを含むExcelや多段組PDFを単純なテキスト抽出にかけ、表の行・列の対応が崩れる。またチャンク分割時に親文書の権限情報や見出しが切り離される | A製品の価格表にB製品の数値が結合されてハルシネーションを誘発。さらに「社外秘」などのメタデータが抜けたチャンクが全社検索に露出する |
| 3. 前処理OSSの「情シス審査抜け」による停止 | 精度向上のために高度なドキュメント解析OSSを現場が導入しPoCで高評価を得たが、本番移行時に情シス部門のOSS利用規程・脆弱性確認でストップする | 外部テレメトリ送信の有無やライセンス制約、脆弱性対応体制が未確認のまま構築が進み、大幅な手戻りとシャドーIT化を招く |
1.1 「IDのゼロ落ち」がアクセス制御(ACL)を破綻させる仕組み
たとえば、組織コード 00105(経理部)と 105(別区分)をメタデータで管理している社内RAGにおいて、担当者がCSVの権限管理表をExcelで開いて上書き保存した瞬間、00105 が数値の 105 へ強制変換されてしまいます。
このような「見た目上はエラーが出ないがデータが書き換わる(サイレント破損)」現象は、RAGの検索精度を落とすだけでなく、権限判定ロジックの誤動作やデータの消失を招きます。なお、現場で安全に表データを編集し、外部通信ゼロのローカル環境でデータ型を保護する具体的なツールの設計戦略については、総合コラム『構造化データガバナンスと内製ツールの設計戦略』にて詳しく解説しています。
1.2 「精度重視のOSSデモ」が情シス審査で止まる落とし穴
実際のRAG構築現場でも、ドキュメント解析向けOSSを活用して高精度な前処理デモを構築し現場から高く評価されたにもかかわらず、後の段階で「そのOSSは情報システム部門のセキュリティ基準・ライセンス基準でそもそも利用許可されるのか」という確認が入り、プロジェクトの進行が止まってしまうケースが発生しています。
「まずは精度を出してからセキュリティを考える」という進め方は、RAGの前処理パイプラインにおいては機能しません。PoCの初期段階から、情報システム部門のガバナンス要件(閉域動作、外部通信遮断、既知脆弱性の有無)を満たす技術選定を行う必要があります。
2. OWASP LLM08:2025に基づく「RAGデータガバナンス」4つの設計原則
OWASP LLM08:2025(Vector and Embedding Weaknesses) および 経済産業省・総務省『AI事業者ガイドライン(第1.2版)』 が求める「データの適正な管理・来歴確保」を実務へ落とし込むには、次の4原則を標準化します。
原則1:外部通信ゼロ・型保持型の「構造化データ編集環境」を標準化する
RAGの知識ベースとなるMarkdownテーブル、CSV、プロンプト評価データセットの更新において、「一時的にクラウド上の変換サイトへ貼り付ける」シャドーAI行為や「Excelでのコピペ編集」を業務フローから排除します。
- 文字列型の厳密維持: ID・コード類のゼロ落ちや日付自動変換を起こさない専用エディタ(完全ローカル動作でテレメトリ送信のないツール等)を現場へ配布し、データ形式と文字コード(UTF-8)を保護します(詳細は構造化データガバナンスと内製ツールの設計戦略を参照)。
- 変更履歴の追跡: 誰がいつ定義表を更新したかをGit等でバージョン管理し、誤データ混入時に即座にロールバックできる状態を保ちます。
原則2:「チャンク+権限メタデータ」の不可分設計(Fail-Closed)
ドキュメントをパースしてチャンクへ分割する際、「本文テキストだけ」を切り出してベクトルDBへ保存する設計は厳禁です。
- 権限と文脈の継承: すべてのチャンクに対して、親文書が持つ「アクセス権限(ACL・許可グループID)」「機密区分」「セクション見出し」「更新日時」をメタデータとして必ず紐づけます。
- メタデータ欠落時の登録拒否: もし前処理パイプラインで権限メタデータの抽出に失敗した場合、そのまま「全社公開」として登録するのではなく、インデックスへの登録自体をブロックして管理者へアラートを上げる(Fail-Closed) 仕様を徹底します(ACL継承全体のアーキテクチャは社内RAGで機密情報を漏らさないアクセス権限(ACL)と情報境界の設計原則を参照)。
原則3:前処理・パース基盤のサプライチェーン審査と閉域完結
ドキュメントの解析(OCRや表構造抽出)を外部の非承認SaaS APIへ丸投げすると、前処理の段階で機密文書が社外へ送信されます。
- PoC前段階での審査完了: 導入するドキュメントパーサー(OSSやコンテナイメージ)については、設計初期に「外部通信を行わない設定が可能か」「脆弱性やライセンスに問題がないか」を情シス・セキュリティ担当と合意します。
- ETLパイプラインのネットワーク隔離: データ収集・前処理基盤そのものが侵害された場合の横展開を防ぐため、最小権限のネットワーク隔離を適用します(詳細はRAGデータ連携基盤(ETL・コネクタ)の過剰権限を防ぐネットワーク隔離と最小権限設計を参照)。
原則4:インデックスの来歴管理(Data Lineage)と定期棚卸し
ベクトルデータベースに一度投入されたデータは、人間が中身を目視しづらいため「古い規程」や「汚染された文書」が残り続ける温床になります。
- 来歴と削除同期: 元ストレージ側でファイルが削除・権限変更された際に、ベクトルDB側の該当チャンクも確実に同期削除・権限更新される仕組みを組み込みます。
- 取り込み異常の監視: 短時間に大量の文書が改変・投入された場合や、不自然な不可視テキストを含む文書が検知された場合は自動取り込みを停止し、間接プロンプトインジェクション等のデータ汚染を未然に防ぎます(間接プロンプトインジェクション対策記事もあわせて参照)。
3. 情報システム部門が確認すべきRAGデータガバナンス・チェックリスト
社内RAGの立ち上げや既存基盤の点検において、以下の5項目が満たされているかを確認してください。
| 確認項目 | 理想的な統制状態 | 要改善(危険)な状態 |
|---|---|---|
| 1. 表・マスター編集 | ローカル完結かつ型破壊を起こさない環境で編集・バージョン管理されている | 現場担当者がExcelコピペや外部変換サイトでCSV/Markdownを加工している |
| 2. 表構造のパース | 結合セルや表の文脈を崩さず構造化テキスト(Markdown等)へ変換できている | PDFやExcelを単純なテキスト流し込みで抽出し、行・列の対応が崩れている |
| 3. 権限メタデータ | 全チャンクにACL・機密区分が付与され、欠落時は登録拒否(Fail-Closed)される | 本文のみをベクトル化しており、メタデータ不備時に全社検索へ露出する |
| 4. 削除・権限変更同期 | 元ストレージの削除・閲覧制限変更がRAGインデックスへ確実に反映される | 一度取り込んだ古い規程や退職者関連データがベクトルDBに残り続けている |
| 5. 前処理OSS審査 | 解析ツール・OSSのライセンス、外部通信遮断、脆弱性確認を情シスと合意済み | PoCで使った外部通信ありのツールや未審査OSSをそのまま本番へ持ち込もうとしている |
社内RAGのデータガバナンス・前処理設計のご相談
社内RAGを「実務で信頼して使える社内資産」にするためには、LLMの選定以上に、データ前処理パイプラインの安定性、表データの構造保持、そして権限メタデータを欠落させないガバナンス設計が成否を分けます。
AI Nexusでは、散在する社内ドキュメント・複雑なExcel/PDFのAI Ready化から、情報システム部門の審査基準に適合する閉域・最小権限RAGアーキテクチャの設計まで、専任アーキテクトが一貫して伴走支援します。
参考資料・一次情報
- OWASP Top 10 for LLM Applications 2025(LLM08: Vector and Embedding Weaknesses)(OWASP Gen AI Security Project、2025年)
- AI事業者ガイドライン(第1.2版)(経済産業省・総務省、2026年3月)
- IPA AIセキュリティポータル(独立行政法人情報処理推進機構 IPA)
社内RAG・ETLデータ連携 権限境界&間接インジェクション点検シート
ACLメタデータ継承(Fail-Closed)、IdPグループ上限対策、ETL隔離、表データ破損防止、Spotlighting&出力PIIゲートの点検シート。
RAG導入・開発アドバイザリー
アクセス権限設計・検索精度と統制の両立
部署・役職ごとの閲覧権限(ACL)を保持したまま社内ドキュメントを検索・活用するRAG基盤の設計から内製化まで伴走します。