「AIシステム脆弱性診断サービス」を提供開始

当社は、このたび、AIシステムを対象に従来のWebアプリケーションにおける脆弱性に加え、プロンプトインジェクションやRAG汚染などAI特有のリスクを検証する「AIシステム脆弱性診断サービス」の提供を開始しました。

本サービスは、AIが組み込まれたWebシステムやチャットボット、社内文書検索AI、AIエージェントなどを対象に、従来のWebアプリケーションに対する脆弱性診断に加え、プロンプトインジェクションやRAG汚染、機密情報漏洩など、AIシステム特有のリスクを検証するサービスです。

当社がソフトウェアテスト・品質検証事業で培ってきた検証ノウハウと、セキュリティ専門ベンダーとの連携体制を活かし、AIシステムの安全性向上を支援します。

サービス提供の背景

近年、社内文書検索AIやチャットボット、AIエージェントなど、業務やサービスへのAI活用が広がっています。

一方で、AIシステムのセキュリティ確認がサーバーやWebアプリケーションなどの「Web層」にとどまり、AIへの入力・回答・参照データといった「AI層」まで十分に検証できていないケースもあります。

AIシステムでは、従来のWebアプリケーションに共通する脆弱性に加え、悪意のある指示によるAIの制御回避や、AIの回答を通じた機密情報の漏洩、参照データの汚染など、AIの仕組みそのものに関わるリスクが存在します。

こうした課題に対し、当社は、通常のWeb層に対する脆弱性診断と、AI層を対象としたAI特有の診断を組み合わせた「AIシステム脆弱性診断」の提供を開始しました。

「AIシステム脆弱性診断」は、AIシステムの基盤となるWeb層と、AIの入力・回答・参照データなどに関わるAI層を対象に、脆弱性やリスクを検証するサービスです。

1．通常の脆弱性診断
AIシステムが稼働するWebアプリケーションやサーバーなどを対象に、一般的な脆弱性を検証します。

2．AIシステム特有の脆弱性診断
AIへの入力や回答、参照データ、AIエージェントの権限などを対象に、AIシステム特有のリスクを検証します。

Web層とAI層を組み合わせた診断
Webアプリケーションやサーバーなどの基盤部分と、AIの入力・回答・参照データなどのAI特有の領域を組み合わせ、AIシステム全体を診断します。
手動診断とツール診断によるハイブリッド検証
自動診断ツールによる網羅的な検証に加え、セキュリティエンジニアによる手動診断を実施します。
AIシステムは、入力内容や参照データ、処理ロジックの組み合わせによって挙動が変化するため、機械的な検証だけでは発見が難しい脆弱性が存在します。
手動診断とツール診断を組み合わせることで、複雑な処理ロジックの隙やAI特有の攻撃シナリオを多角的に検証します。
診断結果をもとにした改善支援
AIモデル用データの収集・評価やアノテーション、Pythonを用いた業務自動化などを支援します。

当社は今後も、AIシステムを取り巻く新たな攻撃手法や脆弱性情報を踏まえ、診断内容を継続的にアップデートしてまいります。
また、脆弱性診断を通じて把握したシステムの挙動や課題をもとに、診断後の品質検証やAIの継続的な精度向上まで支援し、AIシステムの安全かつ安定した運用に貢献してまいります。

「AIシステム脆弱性診断サービス」の検証内容や主な提供領域、サービスプランなど詳細に関するご相談は、以下よりお問い合わせください。

■サービス資料無料ダウンロードはこちら
■本サービスに関するお問い合わせはこちら

お客様のご希望や、サポート内容に合わせて価格のご提示・お見積もりをいたします。
詳細はぜひご相談ください！