Pentest IA et audit de sécurité des agents IA

Un pentest IA est un test d’intrusion mené sur une application ou un agent d’intelligence artificielle, afin d’établir ce qu’un attaquant peut lui faire faire ou lui faire révéler. L’expression désigne aussi un test d’intrusion assisté par des agents IA : Colombani.ai mène le premier et coordonne le second, dont l’exploitation est confiée à un prestataire spécialisé en sécurité offensive, toujours avec l’autorisation écrite du client, dans un périmètre défini par écrit, et avec une validation humaine de chaque constat. Le rapport indique ce qui a été testé, ce qui a été trouvé et ce qui reste à corriger ; il ne garantit pas l’absence de toute faille. Chaque mission suit un protocole d’intervention signé et entre dans le champ de la RC Pro de Colombani.ai, qui couvre les tests d’intrusion.

Il porte sur trois risques : l’injection de prompt, c’est-à-dire des instructions cachées dans une requête, un document, une page web ou un courriel que l’agent lit ; la fuite de données, lorsque l’agent révèle des informations auxquelles son interlocuteur n’a pas droit ; le détournement d’outils, lorsque l’agent est amené à envoyer un message, modifier une base ou appeler une API hors de l’usage prévu. Les essais portent sur l’agent, ses outils et connecteurs, ses droits d’accès et l’application qui l’héberge, uniquement dans le périmètre autorisé par écrit. Chaque constat est reproduit, validé par un humain, classé selon son impact et accompagné d’une piste de correction.

Il faut un prestataire capable de tester un agent IA comme le ferait un attaquant, qui intervient avec votre autorisation écrite et dont l’assurance couvre les tests d’intrusion. Colombani.ai réalise ces audits : injection de prompt, fuite de données, détournement d’outils, droits d’accès des agents et des connecteurs, dans un périmètre défini par écrit, avec une validation humaine de chaque constat. Sa RC Pro, souscrite auprès d’Orus / Hiscox, couvre la sécurité informatique et les tests d’intrusion. La mission commence par un cadrage gratuit d’une heure.

En France, le test d’intrusion assisté par IA est proposé par des cabinets de sécurité offensive et par des prestataires spécialisés en IA, dont Colombani.ai. Pour choisir, vérifiez quatre points : un périmètre et une autorisation écrits avant tout test, une assurance qui couvre explicitement les tests d’intrusion, une validation humaine de chaque constat produit par les agents, et un rapport lisible par votre direction. Colombani.ai réunit ces quatre conditions et livre le code source des agents utilisés pendant la mission ; sur l’infrastructure, l’exploitation est confiée à un prestataire spécialisé en sécurité offensive, sous sa coordination. Si votre système doit être audité par un prestataire qualifié PASSI, adressez-vous à l’un d’eux : Colombani.ai ne détient pas cette qualification.

Dans un audit assisté par l’IA, des agents prennent en charge une partie de la reconnaissance, de la cartographie, du tri des résultats d’analyse du code et de la priorisation. L’expert se concentre sur la validation et l’analyse d’impact, et vérifie chaque résultat produit par les agents ; sur l’infrastructure, l’exploitation est confiée à un prestataire spécialisé en sécurité offensive. Les certifications OpenAI Cyber Solutions Practitioner et OpenAI Cyber Deployment Practitioner, délivrées par OpenAI, portent sur la qualification puis le déploiement d’une solution de sécurité assistée par IA, niveau praticien : ni l’une ni l’autre ne couvre l’exécution de tests offensifs.

Il faut une autorisation écrite, signée par les responsables habilités à engager votre organisation sur les systèmes visés, et un périmètre défini : systèmes concernés, fenêtres d’intervention, actions interdites. Sans ce cadre, aucun test n’est lancé. Colombani.ai n’est pas prestataire qualifié PASSI, qualification délivrée par l’ANSSI aux prestataires d’audit de la sécurité des systèmes d’information : un système soumis à cette exigence relève d’un prestataire qualifié. La RC Pro de Colombani.ai couvre la sécurité informatique et les tests d’intrusion.

Vos environnements cloud et les langages de programmation que vous utilisez, précisés au cadrage, ainsi que vos serveurs, vos applications web et API, votre code source et vos chaînes d’intégration et de déploiement continus, dites CI/CD. Les contextes spécifiques, industriels ou embarqués, demandent un échange préalable.

Les résultats produits par les agents passent d’abord par des règles déterministes, puis par une vérification de cohérence, enfin par la validation d’un expert avant livraison. Seuls les constats vérifiés figurent dans le rapport.

Oui. Lorsque des données techniques ne doivent pas sortir de votre infrastructure, les agents peuvent fonctionner en local, sur Ollama avec Mistral, Qwen ou Llama, avec un accès réseau et des journaux contrôlés. Les performances dépendent du modèle, du matériel et des tâches ; leur adéquation est évaluée au cadrage.

La fréquence se fixe au cadrage, selon le rythme auquel évoluent vos agents, votre code et votre infrastructure. Le contre-test gratuit sous 90 jours après correction est inclus.