Saltar al contenido principal

Roadmap interactivo

Especialista en Ciberseguridad + IA

Threat modeling, red teaming y protección de sistemas de IA

Ruta para especialistas de seguridad sobre prompt injection, fuga de datos, permisos de agentes, supply chain de modelos, sandboxing, AI red teaming y respuesta a incidentes.

10–16 semanasIngenieros de seguridadAppSecAnalistas SOCRed teamers
Abrir como curso →Todos los nodos tienen una ruta de evidencia
3etapas
11nodos
2proyectos y milestones
01 · Núcleo común de IA02 · Modelo de amenazas de IA03 · Red teaming y respuesta a incidentes
  1. 01

    Núcleo común de IA

    Límites de los modelos y evaluación en un contexto de seguridad.

    Resultado de la etapaEl especialista entiende los modos de fallo específicos de la IA y separa el comportamiento del modelo de las garantías reales de seguridad.
    Materiales listos
    Artículo →
    Materiales listos
    Prerrequisitos: Alfabetización en IA y límites de los modelos
    Artículo →
    Materiales listos
    Prerrequisitos: Ingeniería de prompts y contexto
    Artículo →Artículo →
  2. 02

    Modelo de amenazas de IA

    Ataques contra prompts, datos, herramientas, modelos y la cadena de suministro de IA.

    Resultado de la etapaEl sistema dispone de un modelo de amenazas explícito, controles mapeados y pruebas de seguridad repetibles.
    Materiales listosAssessment disponible
    Abrir práctica →Rúbrica de evaluación →Artículo →
    Materiales listos
    Artículo →
    Materiales listosAssessment disponible
    Abrir práctica →Rúbrica de evaluación →Artículo →
    Materiales listosAssessment disponible
    Prerrequisitos: Prompt injection y exfiltración de datos, Permisos de agentes y abuso de herramientas
    Abrir práctica →Rúbrica de evaluación →Práctica →
  3. 03

    Red teaming y respuesta a incidentes

    Evaluación adversarial, monitorización, contención, recuperación y aprendizaje posterior.

    Resultado de la etapaLas regresiones de seguridad de IA se detectan antes del release y se contienen rápidamente en producción.
    Materiales listos
    Artículo →
    Materiales listos
    Artículo →
    Materiales listosAssessment disponible
    Abrir práctica →Rúbrica de evaluación →Artículo →
    Materiales listos
    Prerrequisitos: Red teaming de IA, Evaluaciones de seguridad en CI, Respuesta a incidentes de IA
    Práctica →