Socle IA commun
Limites des modèles et évaluation dans un contexte de sécurité.
Résultat de l’étapeLe spécialiste comprend les modes de défaillance propres à l’IA et distingue le comportement du modèle des garanties de sécurité réelles.
Roadmap interactive
Spécialiste Cybersécurité + IA
Threat modeling, red teaming et protection des systèmes IA
Parcours pour spécialistes sécurité couvrant prompt injection, fuite de données, permissions des agents, supply chain des modèles, sandboxing, AI red teaming et réponse aux incidents.
10–16 semainesIngénieurs sécuritéAppSecAnalystes SOCRed teamers
Ouvrir comme cours →Chaque nœud dispose d’un parcours de preuve
3étapes
11nœuds
2projets et milestones
- 02
Modèle de menaces IA
Attaques contre les prompts, les données, les outils, les modèles et la supply chain IA.
Résultat de l’étapeLe système dispose d’un modèle de menaces explicite, de contrôles associés et de tests de sécurité reproductibles.Supports prêtsAssessment disponibleSupports prêtsSupports prêtsAssessment disponibleSupports prêtsAssessment disponiblePrérequis : Prompt injection et exfiltration de données, Permissions des agents et abus d’outils - 03
Red teaming et réponse aux incidents
Évaluation adversariale, monitoring, confinement, récupération et retour d’expérience.
Résultat de l’étapeLes régressions de sécurité IA sont détectées avant le release et rapidement contenues en production.Supports prêtsSupports prêtsSupports prêtsAssessment disponibleSupports prêtsPrérequis : Red teaming IA, Évaluations de sécurité dans la CI, Réponse aux incidents IA