AI開発・ゲートウェイ・ベンダー委託時のサプライチェーン評価と契約条項の押さえどころ
社内RAGやAIエージェントの構築を外部のSIer・AI開発ベンダーへ委託したり、複数のLLMを切り替えるAIゲートウェイ(プロキシ)やサードパーティ製SaaSを導入したりする際、従来のシステム開発委託と同じ「一般的な情報セキュリティチェックシート」だけで審査を済ませてしまうと、AI特有のサプライチェーン侵害を防ぐことができません。
独立行政法人情報処理推進機構(IPA)が2026年11月13日に公開した『AIセキュリティ短信 2026年11月号』(IPA AIセキュリティポータル)では、多くの企業がLLM中継基盤として利用する「LiteLLMのリリースパイプライン侵害(v1.107.0への情報窃取マルウェア混入・約4.9万回ダウンロード)」や、「米国国土安全保障省(DHS)による、特定AI実装を組み込んだ第三者製品までを含む連邦調達からの排除・撤去命令」、さらには「AIコーディング基盤の旧システム侵害による顧客APIキー漏洩と不正課金」など、委託先・中継基盤・上流パッケージを起点とする深刻なインシデントが多数報告されました。
本記事では、IPA『AIセキュリティ短信』および米国連邦官報(Federal Register)・LiteLLM公式報告・JPCERT/CC・NICT・デジタル庁『DS-920 第2.0版』の一次情報に基づき、AI開発・ベンダー委託時に情報システム部門・法務・調達担当者が確認すべきサプライチェーン評価基準と契約条項の押さえどころを解説します。
[!IMPORTANT] 要点サマリー
- AIゲートウェイ・サンドボックスパッケージの侵害: LiteLLM(
v1.107.0)のリリース工程侵害やnpmパッケージtensorlake(0.5.144)へのワーム混入が示す通り、全LLMのAPIキーが集約される中継基盤やサンドボックスライブラリの自動更新は致命的な単一障害点になります。- 「第三者製品に組み込まれたAI実装」にまで及ぶ調達排除命令: 米DHSの連邦調達サプライチェーンセキュリティ法(FASCSA)命令は、対象企業の製品だけでなく「その実装を用いて開発された第三者の製品・サービス」の撤去まで命じており、委託先が裏でどのモデル・重みを使っているかの透明性(AI-BOM)が不可欠です。
- 委託契約・SLAで定めるべき5つの条項: ①使用モデル・中継基盤・OSSの事前承認(AI-BOM提出)、②APIキー漏洩時のLLMjacking(不正利用課金)賠償と即時失効責任、③旧環境・検証用アカウントの廃棄証明、④学習・蒸留への流用禁止、⑤インシデント時の監査証跡保全を契約に明記します。
1. 一次情報が示す「AIサプライチェーン・委託先・中継基盤」5つの侵害実態
AIシステムのサプライチェーンは、基盤モデル(OpenAI、Anthropic、Google等)だけで完結せず、その手前にある「AIゲートウェイ(LiteLLM等)」「オーケストレーション基盤(Flowise、Dify等)」「委託先が書くラッパーコードやOSSライブラリ」「クラウドバックアップ・管理SaaS」が幾重にも連なっています。2026年10月〜11月に公表された一次情報は、まさにこの中間層が狙われていることを示しています。
| 侵害類型 | 2026年10月〜11月公表の主要事案 | 発生原因とサプライチェーン上の被害構造 | 一次情報・公式出典 |
|---|---|---|---|
| 1. AIゲートウェイ(中継基盤)のリリース工程侵害とRCE | ① LiteLLM v1.107.0 リリース侵害② 脆弱なLiteLLM( CVE-2026-42271)を狙うPoeLLMボットネット | ①2026年5月に公開リポジトリへ登録され失効されなかったマスターキーを起点に組織オーナートークンが盗まれ、不正な v1.107.0 がPyPIとDockerに公開(約4.9万DL)。Python起動時にクラウド認証情報とプロキシDB内の全プロバイダーAPIキーを窃取②MCP stdioテストエンドポイントのコマンド注入( CVE-2026-42271、1.83.7 で修正)や無防備なOllamaが侵害され3,400台超がボットネット化 | LiteLLM Incident Report / Issue #47826 / GHSA-v4p8-mg3p-g94g |
| 2. AIサンドボックス用npmパッケージのワーム改ざん | npm tensorlake(0.5.144)へのShai-Huludワーム亜種混入(2026年10月8日) | 累計10万DL超のAIエージェント向けサーバーレスサンドボックスにメンテナー名義で不正コミットが行われ、preinstall スクリプトで環境変数・秘密情報を窃取し自己複製(埋め込みトークン失効時に端末消去機能も搭載。0.5.145 で削除・CI修正) | tensorlake PR #1016 / IPA『AIセキュリティ短信 2026年11月号』(1.4) |
| 3. 第三者製品に組み込まれた特定AI実装の調達排除 | 米DHS(国土安全保障省)によるDeepSeek製品の連邦調達排除・撤去命令(2026年10月20日連邦官報) | 2018年連邦調達サプライチェーンセキュリティ法(FASCSA)に基づき、①DeepSeekおよび関連事業体のIT製品・サービスの調達除外に加え、②**「DeepSeekの実装を用いて開発された第三者の製品・サービス」の連邦民間機関ITからの撤去**を命令 | US Federal Register Notice 2026-21447 |
| 4. 外部AIツールへのAPIキー預託と「LLMjacking / C2悪用」 | ① OpenCode旧システムからのAPIキー漏洩 ② 公開AI基盤の乗っ取り(LLMjacking)と「NIK C2」 | ①外部AIプロバイダーを連携させていたOpenCode Console旧システムが侵害され、保存されていたAnthropic/OpenAI/GoogleのAPIキーが漏洩し数百〜1,700ドル規模の不正利用料金が発生 ②無認証のFlowiseや盗まれた OPENAI_API_KEY を悪用し、被害者の費用負担で最大10万ステップの自律攻撃やマルウェアのC2(指令)通信を回す手口が観測 | Symantec Threat Intelligence / Cisco Talos NIK C2 / IPA『AIセキュリティ短信 2026年11月号』(1.8 / 1.12 / 3.9) |
| 5. AIエージェント型攻撃ツールによるサプライチェーン・Web API侵害 | ① 国内企業約20社へのAIペンテストツール「ARTEX」悪用とAPI攻撃 ② ConnectWise Cloud Backup起点の2,250超テナント侵害試行 | ①国内で相次いだ不正アクセス事案の一部で、攻撃者がAI(ARTEX等)を用いてアプリ配布ファイルから特定したAPIや既知脆弱性を最大8時間段階的に攻撃したことをJPCERT/CC・NICT等が報告 ②中国系アクターStorm-0940がConnectWiseのアプリ資格情報を侵害後、ARTEXで2,250超の顧客テナントへサインイン・Graph偵察を試行 | JPCERT/CC Eyes / NICT CYNEX注意喚起 / Microsoft Security Blog |
2. 委託先管理・調達審査で失敗しやすい3つの盲点
上記のインシデントと実際の開発現場の教訓を突き合わせると、AI開発委託やSaaS調達において以下の3つの盲点が浮かび上がります。
2.1 「委託先が裏でどのモデル・中継基盤を使っているか」が見えない(サイレント再委託)
米国DHSのFASCSA命令(2026-21447)が「対象企業の製品だけでなく、その実装を用いて開発された第三者の製品・サービスも撤去対象とする」と定めた点は、グローバルに事業を展開する日本企業にとっても極めて重要な意味を持ちます。
開発委託先やSaaSベンダーが「自社独自のAIエンジンです」と説明していても、実際には裏側で特定のオープンウェイトモデルや外部API、あるいはLiteLLMのような中継プロキシを使用しているケースが大半です。委託先が使用する**モデル・重み・中継基盤・主要OSSの構成表(AI-BOM / SBOM)**を提出させなければ、法規制変更や重大インシデント発生時に自社が影響を受けるかどうかすら判別できません。
2.2 AIゲートウェイへの「マスターキー・全社APIキー集約」とバージョン盲信
LiteLLMの侵害事案(v1.107.0)では、プロキシのデータベースに保存されていた各LLMプロバイダーのAPIキーやクラウド認証情報が根こそぎ標的となりました。また、tensorlake の事案(0.5.144)では npm install 時の preinstall スクリプトだけで感染が成立しています。
委託先が構築するAI基盤において、「最新バージョン(latest)をCI/CDで自動プルする設定」になっていたり、CIパイプラインに失効期限のない特権トークンが残存していたりすると、上流OSSの侵害がそのまま自社本番環境の侵害へ直結します。
2.3 検証用アカウントの受け渡し不備と「旧システム・PoC環境」の放置
OpenCodeの事案(1.8)では「旧システム」に残っていたAPIキーが侵害され、SymantecやSekoiaの報告(1.12)では「認証なしで公開されたFlowise等の構築基盤」が即座に乗っ取られて外部への攻撃踏み台(LLMjacking)に転用されました。 実際のプロジェクトでも、「PoCや検証のために発行したゲストアカウントやAPIキーの受け渡し・失効手順が曖昧で、ログイン不備による手戻りや、検証終了後の放置が生じるケース」が少なくありません。委託先が検証用に立ち上げたステージング環境や一時キーこそが、最大の侵入経路になります。
3. AI開発・ベンダー委託時のセキュリティ契約条項(SLA / DPA)5つの必須ポイント
デジタル庁の『行政の進化と革新のための生成AIの調達・利活用に係るガイドライン 第2.0版(DS-920)』(2026年6月)および経済産業省・総務省『AI事業者ガイドライン(第1.2版)』(2026年3月)を踏まえ、AI開発委託契約およびSaaS利用契約には以下の5条項を盛り込みます。
- AI-BOM(使用モデル・中継基盤・OSS一覧)の開示と事前承認義務: 委託先がシステム内部で使用する基盤モデル(プロバイダー・モデル名・ホスティング国)、オープンウェイトモデルの重み、AIゲートウェイ(LiteLLM等)、オーケストレーション基盤(Dify、Flowise、LangChain等)を一覧化して提出させ、発注者の事前承認なしに別モデルや外部APIへ切り替えること(サイレント変更・再委託)を禁止します。
- 顧客側クラウド環境でのキー管理(BYOK)と不正利用課金(LLMjacking)の責任分界: 委託先の共有環境(マルチテナントDB等)へ自社のLLM APIキーを平文預託することを避け、原則として発注者自身のクラウド環境(AWS Secrets Manager、Azure Key Vault、Google Cloud Secret Manager)内でキーを管理し、利用上限(Spend Caps)を設定します。万が一委託先の管理不備でAPIキーが漏洩した場合の即時失効義務と、不正利用課金(LLMjacking)の損害賠償責任を明記します(APIキー管理の技術手順はDify・Copilot Studio・社内スクリプトの「APIキー直書き」が招く統制崩壊と解消手順を参照)。
- パッケージ固定(ダイジェスト・ロックファイル)とCI/CDインストールスクリプト制限:
委託先が納品するコンテナイメージや依存パッケージについて、
latestタグの使用やpreinstallスクリプトの無制限実行を禁止し、脆弱性・マルウェアスキャンを通過した特定のバージョン(SHA-256ダイジェストおよびロックファイル)で固定して納品することを仕様書で義務づけます。 - データ権利帰属・モデル蒸留(Distillation)および学習への流用禁止: 業務データ・プロンプト・出力結果・RAGインデックスの権利を発注者に帰属させ、委託先または再委託先がそれらを自社モデルの学習や**モデル蒸留(大きなモデルの出力で別モデルを訓練する行為)**に流用することを契約上明確に禁止します。
- PoC・旧環境の完全廃棄証明とAPIセキュリティ(NICT / JPCERT/CC基準): PoCや開発完了時に、検証用データ・旧システム・一時アカウント・APIキーを完全に消去し「廃棄証明書」を提出することを検収条件とします。また、公開Web APIやモバイルアプリ連携を伴う場合は、NICT(アプリ解析からのサーバ攻撃注意喚起)やJPCERT/CC(連続不正アクセス事案調査)が指摘する「アプリ内へのAPI仕様・認証情報の埋め込み禁止」と「サービスプリンシパルのサインイン監視」を検収テスト項目に含めます。
4. 情シス・調達・法務部門向け「AIベンダー・委託先審査チェックリスト」
- AIゲートウェイ・主要パッケージの緊急点検: 自社または委託先環境で
LiteLLMを使用している場合、侵害されたv1.107.0やコマンド注入脆弱性(CVE-2026-42271、1.83.7未満)に該当しないか確認し、該当時は1.106.2等の安全なバージョンでの再構築と到達可能な全APIキー・クラウド認証情報のローテーションを完了したか。 - 公開ポートと無認証基盤の遮断: Flowise、Dify、Ollama、LiteLLM等の管理画面やエンドポイントがインターネットへ直接露出(LLMjackingの標的化)していないか、外部公開状況を監査したか。
- AI-BOMと法域・調達規制の照合: 委託先やSaaSが内部で使用しているAIモデル・重みの提供元とデータ保管国を把握し、自社の取引先要件(米国のFASCSA調達規制やEU規制等)に抵触しないか確認したか。
- アカウント発行・受け渡し・失効のライフサイクル管理: 委託先へ付与する検証用アカウントやAPIキーについて、最小権限・有効期限・利用額上限(Spend controls)を設定し、実ログイン確認とプロジェクト終了時の即時失効を実施しているか。
- AIエージェント型攻撃(ARTEX等)を想定した境界防御: 外部公開Webシステムやバックアップ・管理SaaS(ConnectWise等)において、AIエージェントによる長時間・段階的なAPIスキャンやサービスプリンシパル侵害を検知・遮断できるWAF/EDR・ログ監視体制があるか。
(法人向けSaaSのプラン別仕様比較については法人向け生成AIツール選定で情シスが確認すべき「学習オプトアウト・データ保持・プラン差」10の評価基準、ISO/IEC 42001との全体マッピングについてはAI事業者ガイドライン(第1.2版)とISO/IEC 42001の実務マッピングもあわせて参照してください。)
AI開発ベンダー評価・調達仕様書策定・セキュア設計のご相談
「外部ベンダーから提案されたAIシステムの見積もりとアーキテクチャが安全か判断できない」「委託契約書やRFP(提案依頼書)にどのようなAIセキュリティ要件を盛り込むべきか知りたい」という企業様向けに、AI Nexusでは中立的な技術顧問・アドバイザリーを提供しています。
RFP策定・ベンダー審査から、既存AIゲートウェイ・RAG基盤のセキュリティ診断まで、専任アーキテクトが実務目線で伴走します。
- 生成AI導入スターター(調達審査・ガイドライン策定・ベンダー評価支援)を見る
- AIエージェント導入・セキュアDX支援サービス(AgentSecure DX)を見る
- 30分無料オンライン相談でAI開発委託・ベンダー審査の課題を相談する
参考資料・一次情報
- AIセキュリティ短信 2026年11月号(公開版)(独立行政法人情報処理推進機構 IPA、2026年11月13日)
- Contained: Oct 21, 2026 LiteLLM release v1.107.0 Compromised / GitHub Issue #47826 / GHSA-v4p8-mg3p-g94g (CVE-2026-42271)(BerriAI / LiteLLM、2026年10月)
- Notice of Order Regarding Exclusion and Removal of DeepSeek Products From Federal Civilian Executive Branch Information Technology Systems and Procurements(米国国土安全保障省 DHS / Federal Register、2026年10月20日)
- 連続不正アクセス事案の攻撃手法に関する調査 - JPCERT/CC Eyes(JPCERT/CC、2026年10月15日)
- 【注意喚起】相次ぐ情報漏洩、その原因の一つは「アプリ解析からのサーバ攻撃」(情報通信研究機構 NICT ナショナルサイバートレーニングセンター、2026年10月13日)
- AI-driven, large-scale nation-state campaign using ARTEX enables supply chain compromise(Microsoft Security Blog、2026年10月21日)
- Autonomous LLMjacking: 'Skynet' Agent Hijacks Exposed AI Models to Run Attacks(Symantec / Broadcom、2026年10月21日) / NIK C2: The new AI-enabled command-and-control framework(Cisco Talos、2026年10月29日)
- 行政の進化と革新のための生成AIの調達・利活用に係るガイドライン(第2.0版)(デジタル庁、2026年6月)
AI開発ベンダー委託・RFPセキュリティ要件チェックリスト
AI-BOM開示、APIキー預託回避とLLMjacking責任分界、学習・蒸留禁止、PoCデータ廃棄証明、自走納品要件を確認できる発注・契約シート。
生成AI導入スターターパッケージ
業務棚卸し・ガイドライン規程策定・ツール選定
シャドーAI対策や利用規程の整備、セキュリティチェックシート作成を含め、安全な全社展開の土台を短期で構築します。