Prediction Guard ではこれまで一貫して、AI の「ブラックボックス化」は単なる技術的な課題ではなく、システム全体に影響を及ぼすリスクであると捉えてきました。企業において大規模言語モデル (LLM) の導入が中核業務へと急速に広がるなかで、透明性の確保は経営層レベルの重要課題となっています。
こうした状況を踏まえ、Prediction Guard が AI システムの構成要素を可視化するための仕組みである OWASP の AI Bill of Materials (AIBOM) プロジェクトにシルバー スポンサーとして正式に参画したことを発表します。
「ブラックボックス」を超えて: AIBOM の台頭
この 10 年ほどソフトウェア セキュリティに関わってきた方であれば、SBOM (Software Bill of Materials: ソフトウェア部品表) に馴染みがあるでしょう。これは、ソフトウェアを構成する部品一覧のようなものです。しかし、AI では従来の SBOM では扱いきれない「構成要素」が登場します。たとえば、モデルの重み、トレーニング データの来歴、プロンプト テンプレートなどです。
AIBOM は、こうした機械学習ライフサイクル全体における透明性を確保するためのものです。こうした可視性がない場合、「シャドー AI」が組織内に入り込み、データ漏えい、モデル ドリフト、コンプライアンス違反といったリスクに対して、セキュリティ チームが把握できない状態を招きます。たとえば、顧客データがログや管理体制もないまま、知らないうちに公開 LLM API に送信されてしまう、といったケースが挙げられます。
AI 透明性に関する Prediction Guard の取り組み
本スポンサーシップは、単なるウェブ サイト上のアピールではありません。Prediction Guard の AI コントロール プレーンにおいて日々行っている取り組みそのものを示すものです。私たちは、AIBOM を実運用に落とし込み、「AI の透明性ギャップ」という課題を解消するために、主に次の 3 つの重要なアプローチで取り組んでいます。
- AI サプライ チェーンの可視化:
利用しているモデルの出所や利用経路を詳細に把握できます。Hugging Face のオープンソース モデルから独自の LLM まで、サプライ チェーン全体を追跡することで、潜在的な脆弱性を引き継いでしまうリスクを防ぎます。 - ガバナンスの実行基盤:
クラウド、VPC、オンプレミス、さらにはエアギャップ環境でのデプロイメントを含め、あらゆる環境に堅牢なガバナンス機能を直接導入できます。この基盤はすべてのモデル呼び出しを制御し、PII (個人識別情報) をモデルに送信する前に除去し、プロンプト インジェクションの試行を検知するとともに、完全な監査ログを保持します。 - 監査性の確保:
コントロール プレーン内のすべてのやり取りは、完全に監査可能となるよう設計されています。必要なテレメトリを提供することで、コンプライアンス担当者やセキュリティ チームは AI ポリシーの適用状況をリアルタイムで検証できます。これにより、利用者の信頼に依存する従来の体制から、透明性を証明できる体制へと転換します。
オープン標準への取り組み
私たちは、安全な AI の未来は一社だけで実現できるものではないと考えています。ソフトウェアのセキュリティ分野で広く信頼されている OWASP を支援することで、AI の透明性をどのように確保・記録すべきかという、グローバルな業界標準の確立を支援しています。
また、本スポンサーシップを通じて AIBOM のフォーマット標準化を支援し、異なるプラットフォーム間における共有や監査の容易性の向上を目指しています。これにより、Prediction Guard のユーザーは、グローバルなセキュリティのベスト プラクティスに基づいた自社の AI スタックを安全に利用できるようになります。
透明性こそ最大の防御策
これまで長い間、AI プロバイダーは利用者の信頼に依存する形でサービスを提供してきました。Prediction Guard では、今こそ透明性を証明する時代だと考えています。
RAG アプリケーションを構築する開発者であっても、次の重大な情報漏洩を懸念する CISO (最高情報セキュリティ責任者) であっても、透明性こそが最も強力な武器となります。私たちは、OWASP の優れたコントリビューターの皆様とともに、AI をより安全で、より透明性が高く、より説明責任を果たせる形となるよう貢献できることを大変嬉しく思います。
これからも前へ。
Prediction Guard の導入をご検討の方へ
エクセルソフトは、業界特有の規制やセキュリティに準拠するセルフホスティング型の AI プラットフォーム、Prediction Guard の販売代理店として、評価から導入までのプロセスを日本語で支援しています。お見積りに関する依頼、デモのご要望などございましたら、お気軽にご相談ください。
この記事は、Prediction Guard 社の web サイトで公開されている「Securing the Future of AI: Why Prediction Guard is Sponsoring the OWASP AIBOM Project」の日本語参考訳です。原文は更新される可能性があります。原文と翻訳文の内容が異なる場合は原文を優先してください。
