Проверено: 11 июля 2026 · Любовь Черемисина
Внедрение ИИ расширяет поверхность атаки: новые каналы утечки, jailbreak (обход ограничений модели), deepfake, требования регуляторов. Раздел собирает термины про соответствие правилам и безопасность до того, как агенты получат доступ к клиентским данным.
С чего начать
- Классификация данных и правило «что нельзя кидать в публичный чат».
- Промпт-инъекция: проверьте RAG на типовые атаки.
- Безопасность агентов и журнал действий.
Что внутри раздела
- Атаки: промпт-инъекция, jailbreak, deepfake
- Контроль: AI-детектор, ограничения ИИ, этика, регулирование
- Практика: human-in-the-loop (человек в контуре), безопасность MCP
Ключевые вопросы
Есть ли договор об обработке данных (DPA) с провайдером? Кто отвечает перед клиентом, если агент ошибся?
Безопасность — не «потом», а пропуск перед подключением боевой CRM. Обновление: июль 2026.
Регуляторика
EU AI Act, 152-ФЗ и отраслевые стандарты сверяйте с юристом до масштабирования на персональные данные. Фиксируйте, где решение принимает человек.
После базовых терминов — совместный разбор сценария утечки с маркетингом и юристом. Оцените вероятность и ущерб для каждого подключённого инструмента. Обновляйте политику при каждом новом коннекторе (CRM, почта, рекламные API).