Test d'intrusion sur LLM
Testez la robustesse de vos IA génératives contre tout type d'attaques (prompt injection, jailbreak, etc.).
Qu'est-ce qu'un pentest de LLM ?
Un test d'intrusion sur un LLM (Large Language Model) consiste à évaluer la robustesse d'un modèle de langage face à des attaques ayant pour but d'extraire vos données sensibles, de générer des réponses qui nuiront à votre image de marque ou encore de compromettre votre infrastructure dans le cas où le modèle serait capable de faire du function calling.
Objectifs
Nos audits identifient les vecteurs d'attaque spécifiques aux LLMs, comme :
Injection de prompt (jailbreak)
Génération de contenu malveillant
Fuite d'informations sensibles (PII)
Escalade logique via la conversation
Contournement de protections et rôles
L'approche HELX
Pour sécuriser les systèmes basés sur des LLMs, nous réalisons des tests d'intrusion adaptés à leur architecture. En nous basant sur les derniers travaux de recherche en sécurité sur les modèles connus (OpenAI, Anthropic, Google DeepMind…), nous testons le vôtre face à des techniques d'attaques poussées : suffixes adverses, attaques par rôles, encodage et chiffrement, jailbreaks indirects. Que votre solution repose sur ChatGPT, Claude, LLaMA ou un modèle open source, nous vous aidons à en identifier les vulnérabilités et à mettre en place des défenses concrètes (guardrails, RLHF, filtrage contextuel). Protégez vos utilisateurs et votre image face aux nouveaux risques liés à l'IA.
Type d'audit
Un test d'intrusion LLM peut être réalisé selon différents niveaux d'accès au système. Lors de nos échanges, nous choisissons ensemble le scénario le plus adapté à vos enjeux de sécurité.
Boîte noire
Simulation d'un attaquant externe sans accès aux instructions système, ni au code source. Se base uniquement sur l'interface publique (chatbot, API…).
Boîte grise
Test avec un accès partiel : utilisateur connecté, documentation API, exemple de prompt ou historique de conversation. Permet d'explorer des scénarios plus réalistes.
Boîte blanche
Accès complet au système : prompt système, règles de filtrage, logs, voire code d'intégration. Permet une évaluation plus exhaustive de la surface d'attaque et des protections.
Méthodologie
Nos audits de sécurité sur les applications LLM suivent une approche offensive spécifique, couvrant l'ensemble de la surface d'exposition du modèle. Nous évaluons sa robustesse face aux manipulations textuelles, aux attaques indirectes et à l'extraction de données sensibles via le langage.
Identification des composants exposant un modèle LLM : chatbot, API, moteurs de génération de texte. Analyse des objectifs métier du modèle et de son rôle dans l'architecture applicative.
Recensement des types d'interactions utilisateur-modèle (prompt libre, requêtes structurées, contexte conversationnel, rôle assigné), et identification des points d'injection potentiels.
Déploiement de techniques connues de contournement : prompt injection, suffixes adverses, jailbreaks logiques, attaques multilingues, détournement de contexte ou de persona.
Exécution contrôlée de scénarios offensifs pour tester la génération de contenu interdit, le contournement de filtres ou la fuite d'informations sensibles (PII, prompts système).
Utilisation des réponses ou accès obtenus pour simuler des attaques plus complexes (changement de rôle, simulation d'attaque en chaîne, exfiltration via dialogues successifs).
Analyse du niveau de contrôle du modèle, de la stabilité des protections, et des risques réels pour l'utilisateur ou le système cible. Recommandations défensives concrètes.
Un peu de technique
Notre méthodologie d'audit LLM repose sur des standards de sécurité éprouvés (OWASP LLM Top 10, MITRE ATLAS, NIST AI RMF). Nous recherchons notamment les vulnérabilités suivantes :
- Prompt injection (directe ou indirecte)
- Contournement de restrictions
- Fuite d'informations sensibles
- Évasion par encodage / obfuscation
- Manipulation de rôle (persona injection)
- Exploitation multilingue ou contextuelle
- Bypass des restrictions via format (JSON, Markdown…)
- Vulnérabilités de logique métier
- Escalade logique via l'interaction
- Réalisation de comportements critiques non anticipés
Questions fréquentes
Combien coûte un test d'intrusion sur LLM ?
Forfait de 4 250 € HT, soit cinq jours d'expertise, avec une remise de 15 % pour les TPE, PME et associations. Le périmètre est défini ensemble au cadrage : chatbot, RAG, agents, intégrations.
Nous utilisons OpenAI/Azure : le modèle n'est-il pas déjà sécurisé ?
Le modèle l'est peut-être ; votre intégration, rarement. Prompt injection, exfiltration de données via votre base documentaire (RAG), contournement de vos garde-fous, abus des outils connectés à l'agent : les failles naissent de votre assemblage, pas du modèle lui-même.
Sur quels référentiels vous appuyez-vous ?
Sur l'OWASP Top 10 LLM et notre R&D offensive interne, avec des scénarios adaptés à votre cas d'usage (fuite de données sensibles, actions non autorisées, empoisonnement du contexte).
Le test peut-il corrompre notre base de connaissances ?
Non : les tentatives d'empoisonnement sont menées sur des espaces de test ou marquées et nettoyées, et aucune donnée réelle n'est exfiltrée hors de votre périmètre.
Parlez-nous de votre projet.
Discutons ensemble de vos besoins et attentes pour vous proposer un service sur mesure.