Production AI-системы и runtime-эксплуатация Развертывание, serving, observability, runtime evidence, контроль изменений model/provider, стоимость, надежность и incident response.
Результат этапа AI-система с SLO, прослеживаемой runtime truth, управляемыми изменениями model/provider, откатом к known-good конфигурации и проверенной экономикой.
Обязательно Serving, streaming и batching Managed APIs, self-hosting, vLLM, очереди, backpressure, квоты и ограничения capacity. Материалы готовы
Обязательно Tracing, SLO и production monitoring End-to-end traces через вызовы model/retrieval/tools, а также latency, cost, quality, errors, drift и alerts. Материалы готовы
Предпосылки: Serving, streaming и batching
Обязательно Runtime evidence и предотвращение false-green Фиксация fingerprint развернутых commit/config, authoritative postconditions, production verification и раздельной истины для CI, deploy и indexing. Материалы готовы
Предпосылки: Tracing, SLO и production monitoring
Обязательно Контроль изменений model, prompt, retrieval и provider Версионированный release envelope для model revision, prompt, retrieval/index, tools, policy и provider; replay, canary, holdback и rollback как единый change contract. Материалы готовы
Предпосылки: Runtime evidence и предотвращение false-green, Regression и release gates
Рекомендовано Бюджеты capacity, cost и routing Concurrency, rate limits, бюджеты tokens/tools, стоимость успешно проверенной задачи и экономика fallback между моделями или providers. Материалы готовы
Предпосылки: Serving, streaming и batching
Обязательно Privacy, secrets и governance PII, data policies, supply chain, sandboxing, policy engines и доступ tools по принципу минимально необходимых полномочий. Материалы готовы
Рекомендовано Failure injection, failover и reconciliation Тесты 429/5xx, timeout, отказа provider, частичных side effects и duplicate delivery; сначала reconciliation, затем retry; fallback проверяется до реального инцидента. Материалы готовы
Предпосылки: Runtime evidence и предотвращение false-green, Контроль изменений model, prompt, retrieval и provider
Рекомендовано Incident response и rollback Runbooks, scoped kill switches, fallback model/provider, восстановление до known-good конфигурации и postmortem → постоянный regression test. Материалы готовы
Предпосылки: Failure injection, failover и reconciliation
Milestone Capstone: production AI system End-to-end система с contracts, RAG/agents, evals, versioned release envelope, deployment gates, runtime evidence, failure drills и verified recovery. Материалы готовы
Предпосылки: Incident response и rollback, Privacy, secrets и governance, Бюджеты capacity, cost и routing