当社は、このたび、AIシステムを対象に、プロンプトインジェクションや機密情報の漏洩などのリスクを検証する「AIシステム脆弱性クイック診断」の提供を開始しました。
本サービスでは、AIシステムが扱うテキスト・画像・音声・文書（PDF・Office等）の入力形式に応じて、固有の攻撃シナリオや情報漏洩リスクを重点的に確認します。
AIチャットボットや社内文書検索AI、RAGシステム、AIエージェントなどの導入が進む一方、AIへの入力・回答・参照データ・自動操作に関わるリスクは、通常のシステムテストだけでは把握しにくい場合があります。
サービス提供の背景
生成AIやAIエージェントの活用が広がる中、AIシステムには従来のWebアプリケーションとは異なるリスクが存在します。
たとえば、悪意のある指示によってAIの挙動を変化させるプロンプトインジェクション、個人情報や社内情報などの意図しない出力、RAGに登録された文書を経由した情報漏洩などが挙げられます。
また、AIシステムがテキストだけでなく、画像・音声・文書など複数の入力形式に対応することで、入力経路ごとに異なる攻撃手法への対策も求められています。
「AIシステム脆弱性クイック診断」について
本サービスでは、入力形式を問わず重要となる共通の基礎診断と、選択した入力形式に応じた重点診断を組み合わせ、診断実施からレポート提出まで最短1週間で対応します。
共通の基礎診断では、以下のリスクを確認します。
そのうえで、対象システムが主に扱う入力形式に応じて、固有の攻撃シナリオや情報漏洩リスクを確認します。
・テキスト・チャット
チャットボット、カスタマーサポートAI、社内問い合わせAIなどを対象に、多言語・エンコードによるフィルタ回避、外部URLや検索結果を経由した間接的なプロンプトインジェクション、誤情報への追従などを確認します。
・画像
画像添付に対応したチャットAI、画像解析API、画像認識機能を持つAIエージェントなどを対象に、画像内に埋め込まれた指示や、画像に写り込んだ個人情報・機密情報が意図せず処理・出力されるリスクを確認します。
・音声
音声アシスタント、コールセンターAI、スマートスピーカー連携AIなどを対象に、音声化した指示による誤動作、音声を起点とした過剰な自動操作、雑音や背景音の誤処理などを確認します。
・文書（PDF・Office等）
社内文書検索AI、RAGシステム、書類読み取り・要約AIなどを対象に、白文字・微小文字による指示の埋め込み、文書プロパティへの指示埋め込み、RAG経由の機密情報漏洩などを確認します。
国際的な指標を参考に診断項目を設計
本サービスは、OWASPが公開する「OWASP Top 10 for LLM Applications」を軸に、AIシステムにおける代表的なリスクを診断項目として設計しています。
AIシステムは、入力形式によって異なる攻撃手法の影響を受ける可能性があります。テキスト・画像・音声・文書など、それぞれの入力経路に応じたリスクを確認することで、対象システムの利用形態に即した診断を実施します。
診断の流れ
診断内容や対象システムの構成により、実施期間が前後する場合があります。
今後の展望
当社は今後も、AIシステムを取り巻く新たな攻撃手法や脆弱性情報を継続的に収集・分析し、診断内容のアップデートに取り組んでまいります。
また、AIシステムの入力形式や利用形態の多様化に対応し、企業が抱えるリスクをより具体的に可視化できる診断サービスの提供を目指します。
これまで培ってきたソフトウェアテスト・品質検証の知見を活かし、AIシステムの安全な導入・運用と、継続的な品質向上に貢献してまいります。
サービスに関するお問い合わせ
「AIシステム脆弱性クイック診断」の検証内容や主な提供領域、サービスプランなど詳細に関するご相談は、以下よりお問い合わせください。
■サービス資料無料ダウンロードはこちら
■本サービスに関するお問い合わせはこちら
お客様のご希望や、サポート内容に合わせて価格のご提示・お見積もりをいたします。
詳細はぜひご相談ください！