Просунутий•12–18 годин

Agent Capability Supply-Chain Audit

Проведіть security audit Agent Skills, plugins, MCP servers і tool catalogs як виконуваного capability supply chain: provenance, install boundary, schemas, authorization, cache, version drift і revocation.

AI supply chainMCP securitytool provenanceauthorizationversion controlrevocation

Сценарій

Задача

Організація підключає десятки MCP servers, Agent Skills і plugins. Tool catalog змінюється незалежно від application release, local install може виконувати команди, а cached metadata переживає redeploy. Потрібно довести, які capabilities реально дозволені конкретному agent release і як їх відкликати.

Покрокове виконання

1. Побудуйте capability inventory

Результат: Немає невідомих tool/plugin/skill dependencies у release.

Завдання

→Зберіть MCP servers і tools
→Зафіксуйте version/digest/provenance
→Позначте local-install command boundaries
→Класифікуйте read/write/egress/data access

Перевірки

✓Кожен capability має owner
✓Portable package не вважається trusted лише через формат

2. Розділіть protocol access і business authority

Результат: Валідний OAuth/MCP request не означає дозвіл на consequential action.

Завдання

→Перевірте issuer/client binding
→Призначте business permission scopes
→Додайте exact-action approvals
→Встановіть deny-by-default для нових tools

Перевірки

✓Новий tool не отримує authority автоматично
✓Privilege expansion вимагає окремого review

3. Запустіть drift і poisoning tests

Результат: Зміна metadata/schema/cache не обходить policy.

Завдання

→Підмініть tool description
→Змініть input schema
→Створіть stale cached catalog
→Змоделюйте header/body mismatch
→Перевірте revoked tool після reconnect

Перевірки

✓Untrusted metadata не визначає permission policy
✓Revoked capability не оживає зі stale cache

4. Проведіть revocation drill

Результат: Команда може локалізувати й відкликати compromised capability без повного blackout.

Завдання

→Знайдіть усі affected agents
→Revoke credentials/scopes
→Очистіть caches
→Перевірте in-flight work
→Поверніться на known-good version

Перевірки

✓Time-to-revoke виміряний
✓Після restore проходить regression suite

Критерії приймання

Capability BOM повний
Нові capabilities deny-by-default
Protocol auth відділено від business authority
Tool metadata/schema drift покриті тестами
Revocation drill має перевірений known-good recovery

Матеріали перед виконанням

Supply-chain security для AI

Захист AI supply chain охоплює код, моделі, датасети, контейнери й serving-конфігурацію: походження, підпис, сканування, ізольоване складання, policy gates, безпечний rollout та швидкий rollback.

Розробка MCP server

MCP server перетворює дані й операції системи на типізовані ресурси, промпти та інструменти. Матеріал показує, як спроєктувати вузький контракт, валідовувати запити, обмежувати повноваження і тестувати сервер незалежно від конкретної моделі.

Безпека AI-агентів

Безпека AI-агентів — практичний розбір production-архітектури: зменшення наслідків помилкового або атакованого рішення через системні межі довіри та мінімальні повноваження. Матеріал охоплює контракти, межі повноважень, failure modes, оцінювання та контрольований rollout.

Red teaming LLM-систем

Практичний red teaming перетворює припущення про безпеку LLM-системи на відтворювані атаки, докази та regression-тести. Розглядаємо threat model, ручні й автоматизовані кампанії, triage, безпечну лабораторію та перевірку виправлень.