Sécurisation des Applications IA et OWASP Top 10 pour LLM

Jour 1 : Anatomie des attaques et OWASP Top 10 LLM (Partie 1)

Module 1 : La nouvelle surface d’attaque des LLM

• Différence entre la sécurité des modèles (Deep Learning) et la sécurité applicative (LLM).
• Le cycle de vie d’une requête et les points d’interception des attaquants.

Module 2 : Plongée au cœur de l’OWASP Top 10 for LLM (Failles 1 à 5)

• LLM01: Direct & Indirect Prompt Injection (L’art de manipuler le modèle).
• LLM02: Insecure Output Handling (Quand le LLM exécute du code malveillant côté utilisateur).
• LLM03: Training Data Poisoning (Altération des données d’apprentissage).
• LLM04: Model Denial of Service (Saturer les ressources et faire exploser les coûts de l’API).
• LLM05: Insecure Plugin Design (L’exploitation des agents autonomes).
• TP Pratique : Exploitation d’une faille d’Indirect Prompt Injection permettant d’exfiltrer les données d’un utilisateur tiers.

Jour 2 : Vulnérabilités avancées, Audit et Durcissement (Partie 2)

Module 3 : Fuites de données et menaces systémiques (Failles 6 à 10)

• LLM06: Sensitive Information Disclosure (Empêcher le LLM de révéler des secrets système).
• LLM07: Insecure Agency (Les risques liés à l’autonomie d’action accordée aux LLM).
• LLM08: Excessive Overreliance (Risques juridiques et de sécurité liés à la confiance aveugle).
• LLM09: Model Theft (Vol de propriété intellectuelle par extraction de modèle).

Module 4 : Stratégies de Défense et Guardrails

• Conception de prompts défensifs (System Prompts résilients).
• Implémentation de barrières de sécurité logicielles (NeMo Guardrails, Llama Guard).
• Assainissement (Sanitization) des entrées et des sorties applicatives.
• TP Pratique : Mise en place d’un middleware de sécurité (Guardrail) pour bloquer les injections et les fuites de clés API en temps réel.

Evalution de fin de formation

• Le QCM de Validation Final: Un questionnaire à choix multiples de 20 questions permettant de mesurer l’assimilation des concepts clés du programme.
• Sanction de la formation : L’obtention d’une note minimale de 70% aux évaluations donne droit à la délivrance de l’Attestation Officielle de Fin de Formation et du badge de compétences numérique Dndagency.

Profil intervenant  :

Esteban F. – Consultant Senior en Cybersécurité & Spécialiste de la Sécurité des Systèmes d’IA

• Expertise Terrain : Plus de 4 ans d’expérience en audit de sécurité, tests d’intrusion  et sécurisation des infrastructures critiques. Il s’est spécialisé très tôt dans l’analyse des vulnérabilités propres aux algorithmes d’apprentissage automatique et au durcissement des applications connectées aux LLM.

Suites de parcours recommandées

• Axe Architecture & Développement :
  • Architecturer et Développer une IA Souveraine : RAG et LLM locaux
• Axe Gouvernance & Audit Légal :
  • IA Act : Expertise Technique & Audit de Conformité