Formation sécurité des agents IA
Les risques des agents autonomes (injection de prompt, exfiltration via MCP) et leurs parades : isolement, permissions, hooks de sécurité. Exercices d'attaque (red teaming) sur des agents IA.
Public viséRSSI, DSI, DevSecOps, développeurs, architectes sécurité
Ce que vous saurez faire
Identifier les vecteurs d'attaque spécifiques aux agents IA
Mettre en place des mécanismes d'isolement et de gestion des permissions
Configurer des hooks de sécurité pour détecter et bloquer les comportements malveillants
Conduire un exercice de red teaming sur un agent IA
Définir une politique de sécurité pour le déploiement d'agents en production
Programme
- Jour 1, matin
Le modèle de menace des agents IA
- Les 3 surfaces d'attaque : prompt, outils, contexte
- Injection de prompt directe et indirecte : démonstrations en direct
- Vecteurs d'injection : pages web, courriels, documents, réponses API
- Techniques de défense : séparation données/instructions, validation, confirmation humaine
- Jour 1, après-midi
Exfiltration, isolement et permissions
- Exfiltration via les outils de l'agent : fichiers, URL, API
- MCP et surface d'attaque : serveurs malveillants, empoisonnement d'outils, escalade
- Isolement : système de fichiers, réseau, processus
- Atelier : configurer un environnement sécurisé pour un agent
- Jour 2, matin (optionnel)
Hooks de sécurité et red teaming
- Hooks de détection : secrets, URL suspectes, commandes dangereuses
- Hooks de prévention : bloquer push --force, limiter les requêtes sortantes
- Red teaming en binômes : attaque et défense d'un agent
- Contournement des hooks : tester la robustesse des protections
- Jour 2, après-midi (optionnel)
Politique de sécurité et supervision
- Rédiger la politique de sécurité des agents de votre organisation
- Supervision en production : que journaliser, indicateurs, alertes
- Réponse à incident : détection, confinement, investigation, reprise
- Plan d'action : les 5 premières actions de durcissement
Infos pratiques
1 jour (6 h) ou 2 jours (12 h 30), hors pauses
RSSI, DSI, DevSecOps, développeurs, architectes sécurité
Connaissances de base en sécurité informatique. Notions de base en intelligence artificielle.
1 à 10 personnes
30 % de théorie, 70 % d'ateliers offensifs et défensifs dans des environnements isolés. Chaque participant reçoit une politique de sécurité IA et des hooks configurés.
Positionnement à l'entrée, exercices de red teaming évalués. En fin de formation, auto-évaluation des compétences avant et après, puis validation de chaque objectif pédagogique par le formateur (acquis, en cours, non acquis), reportée dans l'attestation de fin de formation.
Ulysse Trin, fondateur de Colombani.ai, consultant en IA et en sécurité, titulaire des certifications Cyber Solutions et Cyber Deployment Practitioner délivrées par OpenAI.
2 semaines minimum entre l'inscription et le début de la formation.
Organisme certifié Qualiopi (certificat QUA009472), dont la déclaration d’activité est enregistrée sous le numéro 11757549975 (cet enregistrement ne vaut pas agrément de l’État) : une prise en charge par votre OPCO ou le FIF-PL peut être demandée. La décision revient au financeur, selon votre branche, ses critères et ses budgets. Colombani.ai monte le dossier avec vous.
À partir de 1 800 € HT la journée, pour un groupe intra-entreprise. Prix selon l'effectif et la durée, sur devis. Une prise en charge OPCO ou FIF-PL peut être demandée selon votre statut ; le reste à charge dépend du montant accordé par le financeur.
Recevoir le programme et un devis
Programme adapté et devis sous 48 heures ouvrées.
Accessibilité
Formation accessible aux personnes en situation de handicap. Contactez le référent handicap en amont pour étudier les aménagements possibles.
Ulysse Trin, referent-handicap@colombani.ai
Suivi post-formation
Questions fréquentes
Faut-il des compétences en pentest pour suivre cette formation ? +
Non, mais des connaissances de base en sécurité informatique sont nécessaires. La formation est progressive : elle part du modèle de menace avant d'aborder le red teaming.
Le red teaming se fait-il sur de vrais agents ? +
Oui, sur des agents configurés dans un environnement isolé pour l'exercice. Vous attaquez et défendez des agents réels dans un environnement contrôlé.
Cette formation couvre-t-elle les risques MCP ? +
Oui. Les risques liés à MCP (serveurs malveillants, empoisonnement d'outils, escalade de privilèges) sont traités dans la séquence consacrée à l'exfiltration de données, et les permissions des serveurs MCP dans celle consacrée à l'isolement. C'est un vecteur d'attaque critique pour les agents.
Formations complémentaires
Formation Claude Code avancée : hooks, sous-agents, MCP et intégration continue
Deux jours sur vos dépôts pour employer Claude Code en production : hooks de sécurité et de qualité (PreToolUse, PostToolUse), orchestration de sous-agents et de sessions parallèles sur worktrees, serveurs MCP connectés à vos outils, Claude Code en mode non interactif dans l'intégration continue (GitHub Actions), permissions et défense contre l'injection d'instructions.
Formation conformité IA : AI Act & RGPD
L'AI Act qualifie le risque selon l'usage prévu, pas selon l'autonomie de l'outil. La formation vous apprend à classer vos usages, à les documenter et à établir une feuille de route calée sur le calendrier 2026-2028.
Recevoir le programme et un devis
Programme adapté et devis sous 48 heures ouvrées.
Un projet en tête ?
Décrivez votre situation. Le premier échange de 30 minutes est offert ; nous vous répondons sous 24 heures ouvrées.