Construisez un modèle de menaces pour un système IA couvrant les cas d’abus, les contrôles, les tests de sécurité, le risque résiduel et un playbook d’incident.
Scénario
Un assistant IA utilise RAG et des outils avec accès en écriture. Avant le lancement en production, il faut définir les frontières de confiance, les chemins d’attaque et les contrôles.
Résultat: Tous les flux de données et d’autorité sont visibles.
Tâches
Vérifications
Résultat: Les menaces sont reliées aux flux réels.
Tâches
Vérifications
Résultat: Les contrôles sont vérifiables.
Tâches
Vérifications
Résultat: L’équipe peut détecter, contenir et rétablir le service.
Tâches
Vérifications
Grille d’évaluation
Les données, le modèle, les outils, les utilisateurs, les secrets et les systèmes externes sont entièrement cartographiés.
Insuffisant
Des flux d’autorité ou de données restent masqués.
Compétent
Les principales frontières sont explicites.
Solide
La classification des données, les frontières entre tenants et la traçabilité de la chaîne logistique sont documentées.
Preuves requises
Les menaces ont des préconditions, un impact, une probabilité et un responsable.
Insuffisant
La liste est générique et non reliée aux flux réels.
Compétent
Les menaces sont contextualisées et priorisées.
Solide
Les arbres d’attaque, cas d’abus en chaîne et risques résiduels sont documentés.
Preuves requises
Les contrôles de prévention, détection et réponse disposent de preuves de test.
Insuffisant
Les contrôles sont uniquement déclaratifs.
Compétent
Les contrôles clés sont vérifiés.
Solide
Des évaluations de sécurité automatisées, policy as code et une barrière de régression sont implémentées.
Preuves requises
Kill switch, confinement, rollback et procédures de postmortem sont vérifiés.
Insuffisant
Le plan de réponse n’a pas été testé.
Compétent
L’exercice est terminé avec des preuves.
Solide
Des métriques de récupération chronométrées et un confinement automatisé sont implémentés.
Preuves requises