Saltar al contenido principal
Avanzado•10–16 horas

Ejercicio de contención de incidentes de seguridad de IA

Practica un incidente específico de IA donde un prompt injection o una herramienta comprometida ya afectó un workflow de producción. Construye contención que preserve evidencias, reconciliación, rollback acotado y cierre de regresiones.

respuesta a incidentescontenciónforensereconciliaciónrollbackregresión de seguridad

Escenario

Tarea

Tras una prompt injection indirecta, un agente de producción llamó a una herramienta de escritura y un timeout dejó desconocido el estado final. No basta con apagar el modelo: preserva evidencias, delimita el blast radius, verifica el sistema de registro autoritativo, revoca la capacidad comprometida y restaura el servicio de forma segura.

Ejecución paso a paso

1. Clasifica el incidente y congela la evidencia

Resultado: El equipo sabe qué ocurrió y qué runtime envelope estaba activo.

Tareas

  • →Registra versiones de modelo, prompt, retrieval y tools
  • →Conserva traces sin secretos innecesarios
  • →Identifica usuarios, sesiones y tools
  • →Separa efectos confirmados de efectos sospechados

Comprobaciones

  • ✓El audit trail no se reescribe retrospectivamente
  • ✓La evidencia sensible tiene control de acceso

2. Contén solo el blast radius necesario

Resultado: La capacidad peligrosa queda detenida sin un apagado total innecesario.

Tareas

  • →Desactiva la herramienta de escritura o scope afectado
  • →Revoca la credencial comprometida
  • →Pasa el workflow a modo degradado o de solo lectura
  • →Bloquea la fuente maliciosa conocida

Comprobaciones

  • ✓La contención no depende del comportamiento del modelo
  • ✓La ruta de acción crítica ya no está disponible

3. Reconcilia antes de reintentar

Resultado: Los efectos secundarios desconocidos se contrastan con la fuente autoritativa antes de repetir cualquier ejecución.

Tareas

  • →Comprueba el system of record
  • →Compara idempotency keys
  • →Detecta escrituras parciales o duplicadas
  • →Marca reparaciones manuales pendientes

Comprobaciones

  • ✓No hay blind retry después de un timeout
  • ✓Cada acción incierta tiene estado final confirmado o un owner manual explícito

4. Restaura known-good y cierra la regresión

Resultado: El servicio vuelve de forma controlada y la causa del incidente no puede repetirse silenciosamente.

Tareas

  • →Revierte el behavior envelope afectado
  • →Ejecuta el security replay
  • →Realiza canary y failback
  • →Minimiza el exploit
  • →Añade un caso de regresión permanente

Comprobaciones

  • ✓La recuperación se verifica mediante postconditions
  • ✓La regresión bloquea la repetición de la ruta de ataque crítica

Criterios de aceptación

  • La cronología del incidente incluye un runtime fingerprint
  • La contención es acotada e independiente del cumplimiento del modelo
  • La reconciliación de efectos desconocidos termina antes del retry
  • La recuperación known-good se confirma mediante postconditions autoritativas
  • El exploit de producción se convierte en un test de regresión permanente