1. Опишите границы системы
Результат: Все data и authority flows видимы.
Задачи
- →Отметьте trusted и untrusted inputs
- →Выделите secrets
- →Классифицируйте tools
Проверки
- ✓Write capability не скрыта
Продвинутый•12–20 часов
Модель угроз AI и план контролей
Постройте модель угроз AI-системы с abuse cases, controls, security tests, residual risk и incident playbook.
моделирование угрозprompt injectionправа агентовred teamingреагирование на инциденты
Сценарий
Задача
AI-ассистент использует RAG и tools с write-доступом. До production launch нужно определить trust boundaries, attack paths и controls.
Пошаговое выполнение
2. Постройте abuse cases
Результат: Угрозы привязаны к реальным flows.
Задачи
- →Prompt injection
- →RAG poisoning
- →Data exfiltration
- →Tool abuse
- →Supply-chain compromise
Проверки
- ✓У каждой угрозы есть precondition и impact
3. Определите controls и tests
Результат: Контроли проверяемы.
Задачи
- →Least privilege
- →Approval gates
- →Sandboxing
- →Security evals
Проверки
- ✓Control без test evidence не считается готовым
4. Проведите incident drill
Результат: Команда может detect, contain и recover.
Задачи
- →Trigger scenario
- →Kill switch
- →Rollback
- →Postmortem
Проверки
- ✓Есть timestamps и evidence
Критерии приёмки
- Trust boundaries полные
- Threat register приоритизирован
- Controls имеют tests
- Residual risk имеет owner
- Incident drill завершён
Рубрика оценки
Как оценивается результат
Проходной балл: 75/100 · Отличие: 92/100
Система и границы доверия
Данные, модель, tools, пользователи, secrets и внешние системы полностью описаны.
Недостаточно
Остаются скрытые authority или data flows.
Компетентно
Основные boundaries заданы явно.
Сильно
Описаны классификация данных, tenant boundaries и supply-chain lineage.
Необходимые доказательства
- ✓ Ссылка на артефакт или код
- ✓ README с решениями и компромиссами
- ✓ Evidence выполненных проверок
- ✓ Диаграмма архитектуры/угроз
Реестр угроз
Угрозы имеют preconditions, impact, likelihood и владельца.
Недостаточно
Список общий и не привязан к реальным flows.
Компетентно
Угрозы контекстуализированы и приоритизированы.
Сильно
Задокументированы attack trees, цепочки abuse cases и residual risk.
Необходимые доказательства
- ✓ Ссылка на артефакт или код
- ✓ README с решениями и компромиссами
- ✓ Evidence выполненных проверок
- ✓ Приоритизированный реестр угроз
Контроли и тесты безопасности
Prevent/detect/respond controls имеют test evidence.
Недостаточно
Контроли только декларативные.
Компетентно
Ключевые controls проверены.
Сильно
Реализованы automated security evals, policy as code и regression gate.
Необходимые доказательства
- ✓ Ссылка на артефакт или код
- ✓ README с решениями и компромиссами
- ✓ Evidence выполненных проверок
- ✓ Матрица controls и tests
Готовность к инцидентам
Kill switch, containment, rollback и postmortem-процедуры проверены.
Недостаточно
Response plan не тестировался.
Компетентно
Drill завершён и подтверждён evidence.
Сильно
Есть timed recovery metrics и automated containment.
Необходимые доказательства
- ✓ Ссылка на артефакт или код
- ✓ README с решениями и компромиссами
- ✓ Evidence выполненных проверок
- ✓ Отчёт об incident drill