Проверено: 11 июля 2026 · Любовь Черемисина
Безопасность ИИ-агентов
Безопасность агентов — набор мер, чтобы автономный ИИ не утекал данными, не выполнял лишних действий и не становился каналом атаки на инфраструктуру.
Угрозы
Утечка данных— через инструменты, почту, webhook.
Промпт-инъекция— из RAG, писем, веба.
Лишние права у инструментов— запись без одобрения.
Цепочка поставок— скомпрометированный MCP-сервер или плагин.
Контроли
- Отдельная учётная запись на агента; OAuth-токены с узкими правами; ротация.
- Список разрешённых внешних адресов для сервера.
- Песочница для выполнения кода.
- Проверочные атаки (red team) на типовые сценарии инъекций.
Чеклист соответствия
- Договор об обработке данных (DPA) с провайдером LLM.
- Разграничение прав на инструменты (чтение vs запись).
- Политика хранения логов и промптов.
- План реакции на инцидент (отключение коннектора за минуты).
Единый шлюз (MCP Panel): журнал, роли доступа, хранилище секретов. См. MCP, раздел безопасности.
Принцип нулевого доверия для агентов
Каждый вызов инструмента — аутентифицированный запрос; токены с ограниченным сроком; регулярный пересмотр доступов, как у людей.
Раз в полгода — учебный сценарий «утечка через агента» с IT и юристом.
Для маркетингового стека типичный первый шаг — MCP только на чтение аналитики, без записи в рекламные кабинеты.