当社は、このたび、AIを組み込んだシステムを開発・運用する企業向けに、「AIシステム開発セキュリティコンサルティング」の提供を開始しました。QA（品質保証）で培った知見を活かし、LLM、RAG、AIエージェントなどを利用するシステムのセキュリティ対策を、要件定義・設計段階から支援します。
サービス提供の背景
AIを組み込んだシステムでは、従来のセキュリティ対策に加え、AIが参照できるデータや実行できる操作範囲の制御、プロンプトインジェクション対策など、AI特有の観点も検討する必要があります。
例えば、社内文書を検索するAIにおける利用者ごとの参照範囲の制御や、外部ツールを利用するAIエージェントの操作範囲・実行環境の設計は、システムの構成そのものに関わります。そのため、開発が進んでから対策を加えようとすると、設計の見直しが必要になる場合があります。
本サービスでは、AIシステムの開発工程に沿ってリスクを整理し、設計段階から必要な対策の検討を支援します。
「AIシステム開発セキュリティコンサルティング」の特長
・要件定義・設計段階からセキュリティ対策を検討
システムの仕様やAIの挙動から想定される脅威を洗い出し、セキュリティ要件やシステム構成を確認します。開発の早い段階から、セキュリティを考慮した権限やデータの取り扱いを設計に組み込めるよう支援します。
・AIシステム全体を対象に支援
AIモデルだけでなく、利用者、AIエージェント、外部ツール、参照データのつながりを踏まえて検討します。入出力の制御や監査ログなど、複数の領域にまたがる課題にも対応します。
・開発工程に合わせて要件定義から運用まで対応
開発中のガードレール設計（AIの入出力を制御する仕組みの設計）に関する助言、テスト工程での疑似攻撃による検証、運用時の監視・監査ログ設計に関する助言など、開発工程に応じた支援を行います。
開発工程ごとの支援内容
主な支援メニュー
本サービスでは、以下のメニューなどを対象システムの構成や開発段階に応じて組み合わせます。
1．エージェント・実行制御評価：許可する操作の範囲、実行権限
2．ツール実行・サンドボックス評価：外部API・DB接続時の認証・認可、実行環境の分離
3．入出力ガードレール設計：プロンプトインジェクション、機密情報漏えいへの対策
4．監査ログ・トレーサビリティ設計：入出力・ツール呼び出しの記録項目、ログの管理方法
5．RAG・データセキュリティ設計：文書単位の権限設定、ベクトルDBへのアクセス制御
6．AI Identity・IAM設計評価：利用者・エージェント・ツール間の権限、APIキー管理
7．AI Red Team・セキュリティテスト：ツール悪用などを想定した疑似攻撃
なお、AIを組み込まない一般的なWebシステムや業務システムのセキュリティコンサルティングについてもご相談いただけます。
今後の展望
当社は「AIシステム脆弱性診断」や「AIシステム品質検証」など、AIを組み込んだシステムの品質検証サービスを展開しています。本サービスと組み合わせることで、上流工程でのセキュリティ設計から、開発後の診断・検証まで一貫して支援します。今後も、AI時代に必要とされる品質検証サービスを拡充し、企業のAI活用を開発から運用まで支えてまいります。
サービスに関するお問い合わせ
「AIシステム開発セキュリティコンサルティング」の支援内容やお見積もりに関するご相談は、以下よりお問い合わせください。
■本サービスに関するお問い合わせはこちら
お客様のご希望や、サポート内容に合わせて価格のご提示・お見積もりをいたします。
詳細はぜひご相談ください！