《実践》AIエージェント
セキュリティハンズオン

▼Part1. AIエージェントセキュリティ入門

座学でAIエージェントセキュリティの基礎を体系的に学びます。AIエージェントおよびマルチAIエージェントがどのような原理で動作するのか、どのような活用事例があるかを分かりやすく整理した上で、運用リスク・セキュリティリスクを複数の観点から解説します。実際のインシデント事例や攻撃シナリオも交え、現場で想定される脅威を具体的に理解します。

▼Part2. セキュリティ実践ハンズオン

Pythonによるコーディング、攻撃ツール・防御ツールの利用を通じ、脅威モデリングから攻撃実践、対策までを一貫して学びます。まず、本トレーニング独自の検証環境を用いて、OWASP Agentic AI（https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/）をベースとした脅威モデリングを実施します。これにより、AIエージェントシステムに特有のリスクを体系的に整理し、攻撃者視点と防御者視点の両面から脅威構造を深く理解します。続いて、OWASP Agentic AIでも取り上げられている代表的な脅威を題材に、実際に攻撃を行い、その挙動分析から対策までを実践的に学びます。
本パートで扱う主な脅威は以下のとおりです。

• 直接/間接プロンプトインジェクション
• AIエージェント間に連鎖的に伝播するプロンプトインジェクション
• メモリ汚染（長期記憶の書き換えによるAIエージェント挙動の操作など）
• 外部ツールの細工（悪意あるMCPサーバーを利用した攻撃など）
• 悪意あるAIエージェントの混入（A2Aを介した攻撃など）

▼Part3. 運用・ガバナンス実践ハンズオン

AIエージェントシステムのセキュアな運用に不可欠な可視化・追跡・制御の3つの観点を中心に、運用リスクとその管理手法を実践的に学びます。まず、AIエージェントや外部MCP サーバー、その他ツール群がどのように連携しているかを俯瞰的に理解するため、システム全体の可視化を行います。これにより、複雑化しがちなAIエージェント間の依存関係やデータフローを明確化できます。続いて、AIエージェントの意思決定過程やツール実行の流れを詳細に把握するため、AIエージェントの挙動追跡を実施します。これにより、予期しないタスク実行や異常な挙動を早期に発見できるようになります。最後に、AIエージェントが組織のポリシーから逸脱した行動を取らないよう、挙動制御（ポリシー逸脱の検知）の方法を学びます。ルールベース／LLM-as-a-Judgeなどを用い、異常行動の早期抑止や安全なタスク実行の方法を学びます。