社内LLM・推論基盤をオンプレ/クラウドで運用する際の認証・ゼロトラスト境界設計
オンプレミスのGPUクラスタや閉域クラウド、Kubernetes環境で社内LLM・AI推論基盤を運用する組織が増えるなか、「社内ネットワークや閉域網の内側にあるから安全」という境界防御の前提はすでに崩壊しています。
2026年11月9日に米国CISAが実悪用を確認してKEV(Known Exploited Vulnerabilities)カタログへ登録したGPUStackの認証回避脆弱性(CVE-2026-102895、CVSS 9.8)をはじめ、vLLM、Ollama、Ray、NVIDIA Triton Inference Serverといった主要なAI推論ソフトウェアでは、ループバック通信やクラスタ内通信への暗黙の信頼、デフォルト無認証、安全でないデシリアライゼーションに起因するリモートコード実行(RCE)やサービス拒否(DoS)が相次いで報告されています。
本記事では、NVD・CISA KEV・各プロジェクトの公式アドバイザリおよびIPA・NIST・JPCERT/CCの一次情報に基づき、AI推論基盤の複合的な攻撃面と、ゼロトラスト原則に基づく3層の防御アーキテクチャを解説します。
[!IMPORTANT] 要点サマリー
- 暗黙のローカル信頼の崩壊: GPUStackの
CVE-2026-102895は、同一ホスト上のリバースプロキシ経由やX-GPUStack-Real-IP: 127.0.0.1ヘッダ偽装により無条件の管理者権限を奪取され、不正バックエンド登録からワーカー上RCEへ至る実悪用が確認されました。パッチ適用だけでなくフォレンジックトリアージが不可欠です。- 3層のゼロトラスト境界: ①入口のAPI Gateway(Envoy JWT検証+
ext_authzフェイルクローズ+転送ヘッダ剥離+ペイロード/レート制御)、②クラスタ内部(Kubernetes NetworkPolicy+Istio STRICT mTLS+Cilium透過暗号化とtoFQDNsEgress制御)、③ノード・サプライチェーン(Safetensors限定化+CDI+非root実行+Cosign/Kyverno署名検証)を多層で実装します。- 公式仕様上の制約への補完: RayのTLS有効化による性能低下、NVIDIA MIGのメトリクス取得・NCCL上の制約、Envoy AI Gatewayのレスポンス完了後トークン課金仕様を踏まえ、HTTPペイロード制限や物理/Confidential Computing分離を組み合わせる補完設計が求められます。
1. AI推論基盤・推論サーバーの実在脆弱性と設計上の落とし穴
GPUクラスタ管理基盤(GPUStack、Ray等)はワーカーノードの制御・プロビジョニング権限を持つため、侵害されるとクラスタ全体への横展開へ直結します。同時に推論サーバー(vLLM、Ollama、Triton等)は、複雑な外部入力パーサー(Tensor、GGUF、画像/音声、PyTorchシリアライズデータ)と高速なノード間通信チャネル(KVキャッシュ転送やテンソル並列)を抱えており、従来のWebサーバー以上に特異な攻撃対象面を持ちます。
| ソフトウェア | 代表的なCVE / アドバイザリ | 技術的原因・攻撃経路 | 影響・一次情報に基づく緩和策 |
|---|---|---|---|
| GPUStack | CVE-2026-102895 / GHSA-gj9m-f8ph-pmhr(CISA KEV登録)ほか CVE-2026-102894 / 103002 / 58658 | force_auth_localhost=False(既定)時に 127.0.0.1 判定(同一ホストプロキシ経由や X-GPUStack-Real-IP: 127.0.0.1 偽装)を管理者扱い。SAML署名検証欠如やワーカーポート /serveLogs・/debug 無認証公開も併発 | CVSS 9.8、v2.1.1で実悪用確認(悪性バックエンド登録→ワーカーRCE)。2.2.2 以降へ更新し、ヘッダ剥離・シークレット刷新・不正バックエンド棚卸しを実施(NVD / CISA Alert / GHSA-gj9m-f8ph-pmhr) |
| vLLM | CVE-2025-30165(V0)、GHSA-mrw7-hf4f-83pf、CVE-2026-115915、GHSA-8fr4-5q9j-m8gm、CVE-2026-116181 / 116173 等 | V0のZeroMQ pickle.loads() RCE、prompt_embeds の torch.load(weights_only=True) 境界外書込、PillowでのEPS→Ghostscript実行連鎖、auto_map RCE、語彙外 stop_token_ids や128超 output_candidates によるDoS | V1エンジン利用、0.32.0 以降への更新、/invocations 等の非認証パス隔離、prompt_embeds 制限(GHSA-9pcc-gvx5-r5wm / GHSA-mrw7-hf4f-83pf / GHSA-h3rc-j82p-2c3h) |
| Ollama | CVE-2024-37032、CVE-2026-7482、CVE-2025-0312、CVE-2026-42249 | ダイジェスト検証不備のパストラバーサル、/api/create のGGUFローダー境界外読取・NULLポインタ参照、0.0.0.0:11434 露出時の /api/pull 無認証操作 | 任意ファイル操作・SSRF・DoS・Windows更新経路RCE。0.17.1 以降への更新と 11434 番ポートの外部/広域露出禁止(NVD CVE-2024-37032 / NVD CVE-2026-7482 / Ollama Issue #16236) |
| Ray | CVE-2023-48022(Disputed)、CVE-2023-6019、CVE-2023-6021 | ジョブ投入API・ダッシュボード(ポート8265等)経由の任意コード実行、OSコマンドインジェクション、パストラバーサル | 2.8.1 以降への更新、RAY_AUTH_MODE=token 有効化、および厳格なネットワーク隔離(NVD CVE-2023-48022 / Ray Token Auth) |
| NVIDIA Triton | CVE-2025-23317、CVE-2026-47630、CVE-2026-24208、CVE-2026-24147 等 | HTTPサーバーでのリバースシェル誘発RCE(CVSS 9.8)、絶対パストラバーサル、モデル設定アップロード情報漏えい | r26.02 以降への更新、--model-control-mode=none 維持、--http-restricted-api による拡張API制限(NVD CVE-2025-23317 / Triton Model Management) |
| NVIDIA Container Toolkit / GPU Operator | CVE-2024-0132、CVE-2025-23266 | 既定構成でのTOCTOU脆弱性、コンテナ環境でのリンク追従による任意コード実行(ホスト脱出) | Toolkit 1.17.8 以降・GPU Operator 25.3 系修正版への更新、およびCDI構成の採用(NVD CVE-2024-0132 / NVD CVE-2025-23266) |
1.1 「CISA KEV登録 GPUStack CVE-2026-102895」が示すプロキシ境界の罠
CVE-2026-102895 では、同一ホスト上のリバースプロキシ経由でTCP接続元が 127.0.0.1 になる一般構成でも、あるいは外部から X-GPUStack-Real-IP: 127.0.0.1 を付与しただけでも管理者権限が奪取されました。2026年11月9日にCISAがKEVへ追加し、わずか3日後の11月12日を対応期限(Due Date)として BOD 26-04 および「Forensics Triage Requirements」の履行を求めた事実は、AI推論管理基盤が境界セキュリティ装置と同等の最重要標的に変化したことを示しています。
1.2 推論エンジンに共通する「デフォルト無認証」と分散通信の露出
vLLMの公式セキュリティドキュメントは、--api-key だけに依存してアクセス保護を行ってはならないと明記しています。/invocations 等の非認証パスや開発用モード(VLLM_SERVER_DEV_MODE=1)、プロファイラ用エンドポイントが存在するうえ、マルチノード分散推論の torch.distributed、KVキャッシュ転送(既定ポート 14579)、データ並列通信(既定ポート 29500)は暗号化・認証を行わずあらゆる送信元を受け入れるため、PyTorch公式見解としてもデフォルトで安全ではない(insecure by default)と位置づけられています。
2. 社内LLM推論基盤のゼロトラスト境界設計(3層防御)
IPAが示す「社内外のすべてを信用できない領域とみなし、全通信を検査・認証する」ゼロトラスト原則(ゼロトラストという戦術の使い方)に基づき、推論基盤は次の3層で境界を再構築します。
2.1 North-South境界:API Gatewayによる認証・認可強制とヘッダ無害化
推論エンジンへクライアントから直接到達させず、必ずEnvoy ProxyやEnvoy AI Gateway等の多機能API Gatewayで終端します。
- JWT署名検証とヘッダ偽装防止: Envoyの
jwt_authnフィルタで社内IdPのJWT署名・発行者・対象者を検証します。公式ドキュメントが警告する通り、署名検証を省くextract_only_without_validationは本番環境で絶対に使用してはなりません(JWT Authentication - Envoy)。また、claim_to_headersで属性を伝搬させることで、クライアント由来の同名ヘッダを評価前に強制剥離・上書きできます。 - 外部認可のフェイルクローズ強制: 検証済みペイロードを
ext_authzフィルタへ連携する際は、failure_mode_allow: false(フェイルクローズ)およびvalidate_mutations: trueを設定します(External Authorization - Envoy)。これにより、認可サーバーへの過負荷攻撃時にも素通りせず確実にHTTP 403で遮断されます。 - プロキシ信頼ヘッダ剥離とパスホワイトリスト化:
X-GPUStack-Real-IP等の転送ヘッダをエッジで剥離し、公開ルートを推論用OpenAI互換パス等に限定します。vLLMの/invocationsやプロファイラ、GPUStackワーカーの/serveLogs・/debug、Ollamaの/api/pull・/api/create、Rayダッシュボード(8265)をゲートウェイ層で遮断し、Triton側でも--http-restricted-apiによる二層制限を組み合わせます。
2.2 East-West境界:mTLS・NetworkPolicy・Cilium透過暗号化とSSRF封鎖
ゲートウェイ突破やコンテナ内RCEを想定し、クラスタ内部の横展開と外向き不正通信(SSRF)を遮断します。
- デフォルト拒否と厳格mTLS: Kubernetesの NetworkPolicy で全Namespaceをデフォルト拒否としたうえで、Istioの
PeerAuthentication(mtls: mode: STRICT)を適用し、推論ポートへの平文例外を残しません(Istio Authentication Policy)。 - 分散通信のインフラ層代替保護:
torch.distributedやKVキャッシュ転送(14579)、あるいは公式ドキュメントが暗号化オーバーヘッドによる性能低下を警告するRayのワーカー間通信については、専用隔離ネットワーク(VLLM_HOST_IP明示指定)に収容し、CNI層のCilium IPsec/WireGuard透過暗号化で保護します。なお、Ciliumのencryption.strictMode.egress.cidrはIPv4のPod CIDRのみを対象とする制約があるため、IPv4専用構成またはIPv6の厳格遮断を徹底します。 - DNSベースEgress制御(SSRF対策): 推論Podからの外向き通信にはCilium
toFQDNsを適用し、社内モデルレジストリ等への限定通信のみを許可してメタデータIPや外部攻撃サーバーへのSSRFを封鎖します。
2.3 GPUノード・モデル重み・ペイロード/レート制御の多層設計
マルチテナント分離やDoS対策においては、各コンポーネントの公式仕様上の制約を踏まえた補完設計が必要です。
- GPUハードウェア分離の判断基準: NVIDIA MIGはTritonからGPUメトリクスが取得できない制約や、NCCL 2.31以降でも実験的位置づけにとどまる点、XIDエラー時のリセット結合性といった制約があります(NVIDIA MIG Deployment Considerations / Triton 26.08 Release Notes)。ホスト管理者からも隔離すべき最高機密ワークロードでは、物理分離またはNVIDIA Hopper/Blackwellの Confidential Computing(CoCo/Kata・測定済みCVM) を採用します。
- レート・ペイロード境界の複合統制: Envoy AI Gateway の Usage-based Rate Limiting はレスポンス完了後にトークン消費を計上する仕様であり、進行中の長大プロンプトを単体で事前遮断する機能はありません。そのため、①Envoy
ext_authzのmax_request_bytes(超過時HTTP 413即時返却)、②Istiolocal_ratelimit、③stream_idle_timeout、④認可検査層でのmax_tokens/output_candidates/stop_token_ids境界値チェック、⑤vLLMのVLLM_MAX_MEDIA_REQUEST_DECODE_BYTES(既定約683 MiB)を組み合わせた多層防御を実装します。
3. コンテナ・モデルのサプライチェーン統制と監査要件
AI推論基盤では、コンテナイメージだけでなく「モデル重み」「設定ファイル(config.json)」「GPUランタイム」を含めた多層アーティファクトの信頼性検証が不可欠です。
3.1 モデル形式の標準化:Safetensors義務化と設定ファイル審査
従来のPyTorch Pickle形式(.bin、.pt、.pkl)はデシリアライズ時に任意命令列を実行し得るため本質的にRCEリスクを内包します(Pickle Scanning - Hugging Face)。PyTorch 2.6以降の weights_only=True でも「DoSやメモリ破壊は防げない」とPyTorch公式ドキュメントが明記しており、実際にvLLMの GHSA-mrw7-hf4f-83pf で境界外書込が実証されました。
したがって社内標準では、Rust実装で構造上コード実行が不可能な Safetensors(.safetensors) を原則義務化 し、あわせて trust_remote_code=True(auto_map 経由の .py 動的実行)の原則禁止とコミットハッシュ固定を徹底します。GGUF形式を使う場合も信頼済み社内レジストリ経由のみを許可します。
3.2 Kubernetes最小権限・CDI・Cosign+Kyverno署名検証
- 最小権限とCDI: Kubernetesの Pod Security Standards を適用し、Triton公式の推奨通り非root(UID
1000)で実行します。GPU公開にはレガシーフックではなく CDI(Container Device Interface) を採用し(CVE-2024-0132はCDI環境では非影響)、かつCVE-2025-23266対策としてToolkit1.17.8以降・GPU Operator25.3系修正版を適用します。 - 署名・アテステーション強制: CI/CDで Sigstore Cosign によるイメージ署名とSLSA Provenance / CycloneDX SBOMのアテステーションを付与し、Kubernetes側で Kyverno
verifyImages(required: true、verifyDigest: true、mutateDigest: true)を用いて不変のsha256ダイジェストへ書き換え・検証を強制します(閉域環境では社内KMS鍵・社内TUF/Rekorチェーンで運用)。
3.3 公的指針(NIST・IPA・JPCERT/CC・CISA BOD)に基づく監査・運用要件
技術設計を継続的ガバナンスへ定着させるため、以下の公的フレームワークを監査基準として組み込みます。
- NIST SP 800-207 / SP 800-190・IPA ゼロトラスト・生成AI指針: ネットワーク位置による暗黙信頼を排除し、企画・調達(モデル形式審査)から設計・運用・廃棄(重み・ログ・キーの完全消去)までのライフサイクル全体を統制します(NIST SP 800-207 / NIST SP 800-190 / IPA 生成AIおよびAIエージェントを安全に活用するための手引書)。
- JPCERT/CC データフロー図(DFD)監査: 推論API・分散通信ポート(
14579/29500)・モデルレジストリ・認証境界を網羅したDFDを維持し、コンテナ対応スキャナで脆弱性通知ノイズを抑制します(JPCERT/CC ICSSConf 2026)。 - CISA BOD 26-04 に準拠した侵害確認: KEV登録時はパッチ適用だけで完了とせず、不正なカスタムバックエンド・不審ユーザー・認証情報の刷新を含むフォレンジックトリアージを完了条件とします。
AIエージェントの権限境界と監査証跡の統合設計については、AIエージェントに社内システムを安全に操作させるMCP・OAuth委任認可の設計原則および「誰の権限でAIが実行したか」を追跡する監査ログ設計と内部統制の実装ポイントもあわせて参照してください。
4. 情報システム部門向け 緊急点検・導入チェックリスト
- KEV・重大CVEの棚卸し: GPUStack(
2.2.2未満)、vLLM(0.32.0未満)、Ollama(0.17.1未満)、Ray(2.8.1未満)、Triton(r26.02未満)、NVIDIA Container Toolkit(1.17.8未満)の稼働有無を即時確認し、該当時は更新とフォレンジックトリアージを実施しているか。 - プロキシ境界の無害化:
force_auth_localhost=trueと転送ヘッダ剥離を徹底し、Envoyjwt_authn+ext_authz(failure_mode_allow: false)で入口の認証・認可を強制しているか。 - 管理エンドポイントと分散ポートの隔離:
/invocations、/serveLogs・/debug、/api/pull・/api/create、8265、Triton管理API、および分散ポート(14579/29500)を一般セグメントから遮断しているか。 - クラスタ内暗号化とEgress封鎖: NetworkPolicy(デフォルト拒否)、Istio STRICT mTLS、Cilium透過暗号化(IPv4厳格モード要件確認)および
toFQDNsによるSSRF遮断が機能しているか。 - レート・ペイロード複合防御: Envoy AI Gatewayのトークン予算に加え、
max_request_bytes、パラメータ境界値検証、メディアデコード上限(VLLM_MAX_MEDIA_REQUEST_DECODE_BYTES)を組み合わせているか。 - モデル・コンテナサプライチェーン強制: Safetensors義務化・
trust_remote_code原則禁止・CDI・非root実行・Cosign+KyvernoverifyImages(mutateDigest: true)をCI/CDとクラスタ双方で強制しているか。
社内LLM・GPU推論基盤のゼロトラスト設計支援
オンプレミスGPUクラスタや閉域Kubernetes上に社内LLM基盤を構築・運用する場合、推論性能とゼロトラスト境界・サプライチェーン統制を両立させるアーキテクチャ設計が不可欠です。
AI Nexusでは、既存推論基盤(GPUStack・vLLM・Ollama・Triton等)の境界・脆弱性診断から、API Gateway・mTLS・Cilium・Cosign/Kyvernoを組み込んだゼロトラスト設計まで一貫して支援しています。
外部MCPサーバー・AIプラグイン導入時セキュリティチェックリスト
引数・OSコマンド注入、コンテナ隔離・ハッシュ固定、Tool Poisoning・Rug Pull検知、OAuth 2.1委任認可を稟議前に審査できるA4実務シート。
AgentSecure DX(AIエージェント認可・統合支援)
MCP / OAuth委任認可・監査ログ設計
AIエージェントへのAPIキー直書きを廃し、権限委任・Human-in-the-loop承認・監査ログを実装するための技術支援メニューです。