複数のAIプラットフォームを横断し、エージェントのリスクを可視化・制御する「Citadel Radar for Agents」を発表

株式会社Citadel AI（代表取締役：小林裕宜）は、複数のAIプラットフォームを横断してエージェントの状態・挙動を可視化し、実行時のリスクを制御する「Citadel Radar for Agents」を発表します。商用サービスにさきがけ、先進的な企業の皆さまと共に、EAP (Early Access Program) をスタートします。

本製品は、生成AIアプリケーションの入出力を評価・制御する「Citadel Radar」の拡張版です。従来のAIチャットなどの対話型アプリケーションに加えて、Citadel Radar for Agentsでは、外部ツールと連携して自律的に業務を実行するエージェントを、リアルタイムで管理・制御することができます。

個人の試行から全社の業務活用へ、拡大を阻む課題

エージェントの活用を一部の社員や限定的な環境から全社へ広げるためには、業務に必要なデータ・ツールへのアクセスを認めると同時に、安全性を確保する必要があります。その際、企業は次の課題に直面します。

エージェント利用の全体像の把握：エージェントは誰でも簡単に利用を開始できるため、社内で誰が、どのエージェントを、何の業務で利用しているかに加え、アクセスできるデータや利用するツール、エージェントの実際の行動まで含めて全体像を可視化し、リアルタイムで把握・管理する必要があります。

エージェント固有のリスク：外部情報に仕込まれた不正な指示（間接プロンプトインジェクション）や、指示の誤解・人間の意図との乖離（インテント・ドリフト）によって、許可された範囲内の操作であっても、エージェントが業務の本来の目的から外れた行動を取る可能性があります。個々のアクセスの可否や最終回答の確認だけでは、指示から実行までの一連の流れに潜む、情報漏洩や誤動作のリスクを捉えきれません。

プラットフォームの分散：Claude、Copilot、ChatGPT、内製プラットフォームなど、基盤ごとに設定や管理方法が異なります。また、エージェントやプラットフォームの進化が速く、新たな機能や利用方法に応じたセキュリティ対策や統制の整備が追いつきにくくなっています。共通の社内ポリシーに沿って管理するには、基盤ごとの確認や設定が必要となり、運用負荷や対策のばらつきが生じやすくなります。

インシデント発生時の対応：エージェントに対する人間の指示や意図と、エージェントの一連の行動プロセスをトレースすることができなければ、問題発生時に原因や影響範囲を特定できません。何を止め、どの設定を直すべきか判断できず、適切な状態への復旧や再発防止が遅れます。

必要な自律性を保ちながら、危険な状態と行動をコントロール

エージェントの判断や行動を一律に制限すると、任せられる業務も狭まります。必要なのは、業務に求められる自律性とアクセスを保ちつつ、不必要にリスクの高い設定を是正し、インシデントにつながるエージェントの行動に、実行途中で介入できる仕組みです。

Citadel Radar for Agentsは、「何ができる状態か」を把握するポスチャーマネジメント機能と、「いま実行する行動」を監視・制御するセッションマネジメント機能を提供します。実行前の点検に加え、利用者やその意図、それまでの操作を踏まえ、指示からタスク完了までの一連の流れを評価します。個々の操作だけでは見抜けない業務目的からの逸脱やポリシー違反を検出し、その原因分析から設定やツール接続等の改善につなげます。

【Citadel Radar for Agentsの主な特長】

1．モデル・エージェント・ツール等の可視化

MCPサーバーなどのツールを含めて資産を棚卸し、エージェント台帳を自動作成します。稼働中のものに加え、作成後に放置されたエージェントも把握できます。

2．設定・権限の診断と是正支援

過剰な権限や接続、機密データへのアクセスなどを点検し、共通ポリシーへの適合を継続的に確認します。リスクスコアとともに修正すべき箇所を提示します。

3．セッションの文脈に基づくリアルタイム制御

プロンプトの意図や、誰の代理で何をしてきたかを踏まえて行動を評価します。危険なツール呼び出しのブロックに加え、業務に応じたガードレールを自然言語で定義できます。

4．原因・影響範囲を調べるインシデント分析

直感的な操作で、プロンプト入力から各ツールの呼び出しまでを時系列で確認できます。ブロックした操作とその理由をわかりやすく表示し、調査・是正につなげます。

5．マルチプラットフォーム対応と継続的な追随

Copilot Studio、Claude、Difyなど、複数のAIプラットフォームに対応し、エージェントのセキュリティを一元管理できます。各プラットフォームの機能追加や変更にも継続的に対応し、管理者の負担を軽減します。

6．接続するだけで統制を開始

既存のAIプラットフォームに接続するだけで、エージェントの可視化や設定・権限の点検を開始できます。導入の負担を抑え、利用中の環境から統制を進められます。

Citadel Radar for Agentsの詳細は、製品ページをご覧ください。

https://citadel-ai.com/ja/products/radar-agent/

【Early Access Programのご案内】

Citadel Radar for AgentsのEarly Access Program（EAP）を開始します。参加企業のご要望を製品改善に反映するとともに、エージェントの本格展開に向けたリスク管理・運用の具体化を支援します。EAPにご関心のある企業様は、info@citadel-ai.com までお問い合わせください。

【Citadel AIの概要】

会社名：株式会社Citadel AI
所在地：東京都文京区向丘 2-3-10 東大前HiRAKU GATE 3-1
代表者：代表取締役 小林 裕宜
設立： 2020年12月10日
主な事業内容：「AIに信頼をあたえる」をミッションとする、日本発のグローバルスタートアップです。Google米国本社出身の最高技術責任者（CTO）をはじめとするエンジニア陣が、金融・医療・製造・人材などの大手企業や国際的な認証機関向けにAIガバナンスソリューションを開発・提供しています。

URL：https://citadel-ai.com/ja/

X(Twitter) ：https://twitter.com/CitadelAI

お問合せ   ：info@citadel-ai.com