Проверено: 11 июля 2026 · Любовь Черемисина
Джейлбрейк ИИ
Jailbreak (джейлбрейк) — обход встроенных ограничений модели через специальные промпты, ролевые игры, кодирование или многошаговые сценарии. Для бизнеса это риск для бренда и соответствия правилам, если пользователи — клиенты или сотрудники.
Примеры техник
DAN и ролевые игры «без правил».
Обфускация — Base64, другой язык, поэзия.
Косвенный обход через документы в RAG.
Как снижать риск
- Фильтры на входе и выходе.
- Системные промпты + отдельные модели политики (несколько слоёв защиты).
- Лимиты частоты, мониторинг злоупотреблений, чёрные списки.
- Не полагаться только на «встроенную этику» провайдера.
Для ботов, которые видит клиент
Несколько слоёв: фильтр входа → модель с политикой → фильтр выхода → блок персональных данных и токсичности. Логируйте попытки джейлбрейка, чтобы обновлять фильтры.
См. промпт-инъекция, этика ИИ.
Корпоративная политика
Запрет jailbreak-промптов во внутренних чатах; обучение сотрудников; отдельные песочничные модели для проверки атак. Публичные боты для клиентов — более строгие фильтры.
Мониторинг
Ключевые слова и похожесть на известные шаблоны джейлбрейка; алерт безопасности при всплеске попыток с одного аккаунта или IP.
Обновляйте блок-лист после каждого публичного «мема» с новым обходом.