Что такое JailBreak-атаки: почему ИИ нарушает собственные правила и как это работает

Дата публикации: 22-09-2026 08:00:49

Чтобы «взломать» нейросеть, иногда хватит правильно составленного текста. Попросить модель сыграть персонажа без правил, вспомнить покойную бабушку с химзавода, разбить опасный вопрос на цепочку безобидных или просто закодировать его в Base64. Дальше модель обходит собственные ограничения сама, причем из лучших побуждений, так как искренне хочет помочь.На связи Андрей Якунин, инженер по информационной безопасности в Selectel. В тексте разберу классику JailBreak-атак: DAN, «Бабушку», Crescendo, обход фильтров через кодирование и стеганографию. По пути поговорим, чем джейлбрейк отличается от промпт-инъекции и почему эти приемы вообще срабатывают. Будет полезно тем, кто строит продукты поверх LLM и хочет понимать, что однажды прилетит в их чат-бота, ИБ-специалистам, которым эти продукты защищать, и всем, кому просто интересно, как устроены атаки на ИИ. Под кат →

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	OpenAI потеряла контроль над двумя моделями искусственного интеллекта	0	6.96	22-07-2026
2	Как ИИ-агент атаковал инфраструктуру Hugging Face: что стало известно после Black Hat	0	9.8	25-08-2026
3	Может ли AI-агент выполнять задачи сетевого инженера. Сбрасываем пароль роутера Cisco	2	6	09-07-2026
4	Искуственный интеллект сбежал несколько раз с тестовых стендов. И OpenAI, ...	0	7.27	03-08-2026
5	ИИ в 2026: крах мифа об автономных хакерах и скрытые уязвимости корпораций	0	8.62	05-06-2026
6	Как агент сам откроет дверь хакеру? Разбираю три реальных пробоя AI-агентов и почему обычный ред-тиминг их не найдёт	5	8	28-06-2026
7	ИИ OpenAI находит то, чего еще не знают хакеры: что умеет новая модель	0	17.28	11-08-2026
8	Un modelo de IA no tenía acceso a internet. Así que consideró que era mejor tenerlo y decidió hackear algo por el camino	0	6.22	22-07-2026
9	AI Native Bank: инновации под киберзащитой	0	16.26	08-05-2026

Классификация: Мнения. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 10.63. Источник: habr.com.