Aller au contenu principal

Cours complet

DevOps / SRE + IA

Exploitation fiable des workloads IA

Serving, autoscaling, observabilité, maîtrise des coûts, sécurité et réponse aux incidents pour les systèmes IA.

0%0/8 leçons

La progression est enregistrée localement dans votre navigateur.

10–16 semaines3 modules8 leçons5 évaluations

Module 1

Socle IA commun

Modes de défaillance probabilistes et comportement vérifiable des modèles.

RésultatLe SRE comprend les risques opérationnels et les limites des systèmes IA.

  1. Culture IA et limites des modèles

    Essentiel

    Capacités, hallucinations, limites de contexte, confidentialité et usage responsable.

    Contenu →

  2. Prompt et context engineering

    Essentiel

    Instructions, contraintes, exemples et vérification des résultats.

    Prérequis: Culture IA et limites des modèles

    Contenu →

  3. Sorties structurées et évaluation

    Essentiel

    Schémas de réponse, contrôles déterministes et cas de test.

    Prérequis: Prompt et context engineering

    Contenu →Ressource →

Module 2

Runtime et serving IA

Inférence, batching, files de tâches et scaling pour les workloads de production.

RésultatUn service d’inférence contrôlé avec des signaux explicites de capacité et de santé.

  1. Serving LLM

    Essentielpratique + évaluation

    API managées, self-hosting, health checks et compromis de runtime.

    Contenu →Pratique →Évaluation →

  2. Autoscaling des workloads IA

    Essentielpratique + évaluation

    Planification de capacité, warmup, saturation et scaling sensible aux coûts.

    Contenu →Pratique →Évaluation →

Module 3

Observabilité et incidents

Tracing, coûts, alertes, rollback et exercices opérationnels.

RésultatUne plateforme IA avec des SLO mesurables et un parcours de reprise testé.

  1. Tracing et monitoring IA

    Essentielpratique + évaluation

    Latence, qualité, usage des tokens, retries, erreurs et santé du service.

    Contenu →Pratique →Évaluation →

  2. Projet : dashboard des opérations IA

    Projetpratique + évaluation

    SLO, traces, métriques de tokens et de coûts, alertes et exercice de défaillance contrôlé.

    Contenu →Pratique →Évaluation →

  3. Réponse aux incidents IA

    Essentielpratique + évaluation

    Confinement, fallback, rollback, communication et postmortems.

    Contenu →Pratique →Évaluation →

Pratique finale et évaluation

Le cours se termine par un artefact pratique et une grille d’acceptation. Le résultat est considéré comme terminé après validation des critères d’acceptation, et non après la simple lecture des contenus.

Serving LLM →Autoscaling des workloads IA →Tracing et monitoring IA →Projet : dashboard des opérations IA →Réponse aux incidents IA →Ouvrir la roadmap →