Хакеры нашли способ обойти защиту крупных языковых моделей (LLM). Теперь можно заставить ChatGPT и другие ИИ говорить что угодно — даже то, что создатели пытались заблокировать. Будьте осторожны с запросами! 🤖💥
Исследователи HiddenLayer обнаружили первую универсальную технику обхода защиты крупных языковых моделей (LLM), включая ChatGPT, Gemini, Claude и другие. Метод Policy Puppetry сочетает имитацию политик (XML, INI, JSON) с ролевыми играми и leetspeak-кодированием, позволяя генерировать запрещенный контент: инструкции по созданию оружия, рекомендации по саморазрушительному поведению и утечки системных промптов. Техника работает против 27 моделей от OpenAI, Google, Anthropic, Meta и других вендоров, включая новейшие ChatGPT 4o и Gemini 2.5. Уникальность атаки — в ее трансферабельности: один шаблон промпта эффективен для разных архитектур без модификаций. Policy Puppetry эксплуатирует фундаментальную уязвимость в обучении LLM — модели интерпретируют вредоносные инструкции как часть «политик», которые должны исполнять. HiddenLayer демонстрирует примеры обхода медицинских ограничений чат-бота и извлечения системных промптов. Для индустрии это сигнал: текущие методы выравнивания (RLHF) недостаточны, требуются специализированные системы мониторинга вроде AISec Platform. Угроза особенно актуальна для корпоративных внедрений ИИ в медицине, финансах и госсекторе.
