監査なしで企業を上場させることはありません。十分な試験なしで新薬を市場に出すこともありません。AI にも同等の導入基準が設けられるべきです。
Seekr 社 Chairman 兼 CEO – Pat Condo 氏
本記事の筆者である Seekr 社 Chairman 兼 CEO の Pat Condo 氏は、上記のように述べています。企業の上場や新薬の承認に高い導入基準が設けられている中で、なぜ同じような審査基準が設けられていない AI システムを銀行、裁判所、医療機関、防衛システムへ導入することに危機感を持っていないのでしょうか。
これこそ今問うべき問題となっています。重要なのはモデルの大きさでも、ベンチマークの性能でもありません。企業が AI による意思決定のプロセスを説明できるかどうかが肝心です。
もはや、影響は理論上のものではありません。今や AI は、出力に法的、財務的、あるいは壊滅的な重みを持つ意思決定を行っています。融資の承認から国家安全保障の分析のためのインテリジェンスの提供に至るまで、AI は人間が介入することができない環境で稼働しています。これらは単なるチャット ボットではありません。AI による意思決定が不可逆な影響を及ぼす可能性のあるシステムとなっています。
このような AI システムの導入において、基準となるのは性能ではありません。検証可能性が基準となります。
信頼は主張するものではなく、構築するものです
信頼できる AI は、AI 技術が向かうべき方向を示す正しいフレームワークです。しかし、よく見逃されがちな難しい問題として、信頼できる AI の構築において実際に何が必要なのか不明瞭である点が挙げられます。信頼できる AI は、単なるラベル表記ではありません。これは要件セットであり、アーキテクチャ上の意味を持つものです。機能ではなく、複数の要因の組み合わせによって連鎖的に生み出される結果なのです。
信頼には透明性が必要です。モデルがどのような経緯で出力に到達したのかを確認できる必要があります。つまり、要約でも信頼スコアでもなく、人間が監査できる、入力から出力に至るまでの追跡可能な経路を示す必要があります。システムが結論に至った過程を理解できなければ、その結論を信頼することはできません。これは、与信判断であろうと軍事攻撃であろうと同じです。
透明性はガバナンスを可能にします。システムの仕組みが見えれば、ルールを適用できます。特定の用途を承認し、別の用途を制限することもできます。状況が変わったときにはロールバックも可能です。透明性がなければ、ガバナンスは実効性のない形式的な飾りに過ぎません。
ガバナンスには測定が必要です。測定できないルールは願望にすぎません。システムは、自らが期待通りに動作していることを定量的に証明するテレメトリを生成しなければなりません。測定できないものは統制できず、可視化されていないシステムは測定できません。
この透明性、ガバナンス、測定が織りなす連鎖こそが、規制産業で導入できる AI と、サンドボックスでしか使えない AI を切り分けます。
信頼できる AI が重要となる領域
次の AI の波は、これまでとは異なる姿になるでしょう。私たちはほぼ無限とも言える未来に向かっています。多様なモデルと、それらを基盤とした多数のエージェントが組み合わさり、大規模に相互作用する世界です。この組み合わせが爆発的に増加していくことが予測される中で、最初から適切な信頼とガバナンスが組み込まれていシステムでは、予期しない結果が生まれます。
現在は少数の大規模な汎用モデルが議論の中心ですが、今後は変化します。より小規模で、特定の産業、特定の意思決定、特定の運用環境向けにトレーニングされた専門的なモデルへ移行していきます。さらに、人間の監視が機能しなくなるような環境において、AI はエッジへと広がっていきます。深宇宙、海中、月の裏側といった環境では、AI がリアルタイムで連続的な意思決定を行い、人間による確認までに掛かるレイテンシーは数時間、数日、あるいは永遠に発生しない可能性もあります。これらは特殊なケースではありません。今後 10 年で主流となるアーキテクチャです。
このような環境では、後から信頼性を付け足すことはできません。説明可能性を将来のロードマップで追加することもできません。最初の設計段階から組み込む必要があります。
これを実現できる企業だけが、防衛、インテリジェンス、金融、医療、重要インフラといった重要な市場でシステムやサービスを展開できることになります。説明可能性を実現できない企業は、調達段階で排除され続けることになります。
Seekr 社が目指す未来
Seekr 社は、信頼できる AI に関する問いに対して、構造的に最も完成度が高いと考えるソリューションを構築してきました。SeekrFlow は、監査証跡を維持したまま、企業が AI のトレーニング、チューニング、評価、ガバナンスを実装できるプラットフォームです。35 件の特許 (取得済みまたは申請中) とともに、国内 3 拠点にわたって、AI の失敗が単なる不便ではなく、重大な損害につながる環境でキャリアを積んできたチームによって開発されています。
SeekrFlow は、ベンチマークのために構築されたプラットフォームではありません。要件の検証可能性と信頼性の高い結果をもたらすために構築されました。
これは意図的な戦略であり、現在の業界の潮流と必ずしも一致しているわけではありません。現在の AI 導入においては、スピード、規模、能力に最も注目が集まっています。これらは重要ですが、それだけでは不十分です。監査できない高性能システムは、重要なユースケースにおいては、より大きなリスクとなりかねません。
AI 導入における新たな機会
市場もこの問題に目を向け始めています。規制産業の CIO は AI ベンダーの選定理由について説明を求められ、取締役会は AI の導入がリスク管理に及ぼす影響について説明を求め、調達担当者は製品紹介スライドではなく証拠を求めています。AI 導入に関する今年の商談内容は、2 年前とはまったく異なっています。
これは良い変化です。AI の導入基準を新薬の承認や企業の上場と同じレベルに引き上げることは、AI の発展を遅らせるのではなく、AI の可能性を実現するための基盤を提供することに繋がります。これまで信頼できる基盤が存在しなかったために導入できなかった領域へ、AI を展開できるようになります。
これこそが Seekr 社が目指している基準であり、これらのシステムに依存するすべての人に値する基準です。
Seekr 社の Chairman 兼 CEO である Pat Condo 氏は、Fox Business の番組内で信頼できる AI について語っています。こちらからご視聴ください。
国内における「検証可能な AI」の導入に関するご相談
本記事で解説されたように、エンタープライズ AI では「精度が高いこと」だけでなく、「意思決定プロセスを説明・監査できること」が、実運用の前提条件になりつつあります。
多くの AI プロジェクトが本番導入で止まる原因は、この「検証可能性の不足」にあります。
エクセルソフトは、SeekrFlow の正規販売代理店として、AI の導入初期における 説明責任やガバナンス要件の整理から、日本語による監査に対応可能な AI 基盤の検証支援 (PoC)、検証・評価フェーズにおける技術的なご相談まで、国内企業の状況に合わせた形でエンタープライズ AI の導入を支援しています。
「自社の AI システムは監査に耐えられるのか」
「ブラックボックス化せずに運用できるのか」
このような観点からの疑問点についても、お気軽にご相談ください。
この記事は、Seekr 社の Web サイトで公開されている「The Architecture of Trusted AI」の日本語参考訳です。原文は更新される可能性があります。原文と翻訳文の内容が異なる場合は原文を優先してください。
