Sécurité offensive et défensive des systèmes IA

Sécurité offensive et défensive des systèmes IA

Jour 1 : Vulnérabilités des modèles IA

1. Fondamentaux de la sécurité des systèmes IA
   • Adversarial Machine Learning
   • Injection de prompts et attaques sur LLM (Large Language Models)
2. Attaques adversariales sur IA
   • FGSM, PGD, DeepFool, attaques par bruitage
   • Empoisonnement des jeux de données
   • Extraction et inversion de modèles (Model Inversion, Model Stealing)
3. Ateliers pratiques : Exploitation d’un modèle IA vulnérable

Jour 2 : Vulnérabilités applicatives et supply chain IA

4. Attaques sur la chaîne d’approvisionnement IA
   • Risques liés aux modèles tiers et bibliothèques externes
   • Injection de backdoors et de biais algorithmiques
5. Attaques sur l’apprentissage fédéré et les RAG (Retrieval-Augmented Generation)
   • Modèles distribués et risques de compromission
   • Exploitation de failles dans les systèmes d’agrégation de données
6. Pratique : Sécurisation d’un pipeline MLOps contre les attaques adversariales

Jour 3 : Défense et contre-mesures IA

7. Stratégies de protection et mise en conformité
   • Déploiement d’IA robuste et durcissement des modèles
   • Détection et réponse aux incidents de sécurité IA
   • Réglementations IA (RGPD, NIS2)
8. Simulation d’un audit de cybersécurité IA
   • Analyse des vulnérabilités
   • Rédaction d’un rapport d’audit
9. Évaluation finale : Capture The Flag (CTF) IA

Profils des  formateurs Dnda Intervenants

• 1 Data Scientists spécialisés en IA et en Machine Learning appliqué à la cybersécurité.
• 1 Consultants en gouvernance et conformité ( RGPD, NIS2 )
• 1 Pentesters et Red Team expérimentés en attaques  et évaluation des systèmes IA.

Autres formations disponibles en Intelligence artificiel

• Atelier Microsoft Copilot : Gagnez du Temps avec l’IA dans Office 365
• Savoir générer un prompt efficace 
• Maîtriser l’IA Générative en Entreprise 
• Sécurité des systèmes d’intelligence artificielle 
  
• Fondamentaux de l’IA en cybersecurité