Обнаружена новая уязвимость в AI-ассистентах GitHub Copilot и Cursor. Злоумышленники могут внедрять вредоносный код через агентов 🤯. Разработчикам стоит быть осторожнее с автоматическими подсказками! #безопасность #AI
Исследователи Pillar Security обнаружили новую уязвимость в AI-ассистентах для разработчиков — GitHub Copilot и Cursor. Атака, названная «Rules File Backdoor», позволяет злоумышленникам внедрять вредоносный код через конфигурационные файлы, которые используются этими инструментами для генерации кода. Уязвимость опасна тем, что атака остается незаметной для разработчиков и систем безопасности. Злоумышленники используют скрытые Unicode-символы и сложные методы обфускации, чтобы внедрить вредоносные инструкции в файлы правил, которые затем влияют на поведение AI при генерации кода. Это превращает доверенный инструмент разработчика в скрытый канал для атак, потенциально затрагивающий миллионы пользователей через скомпрометированное ПО. Уязвимость особенно критична из-за массового использования AI-ассистентов — по данным GitHub, 97% enterprise-разработчиков применяют их в работе. Исследователи продемонстрировали, как можно внедрить вредоносный скрипт в HTML-страницу, сгенерированную Cursor, или изменить поведение GitHub Copilot. Разработчикам рекомендуется проверять файлы правил на наличие скрытых символов, внедрять процессы валидации и внимательно анализировать код, сгенерированный AI. GitHub и Cursor считают, что ответственность за безопасность лежит на пользователях, что подчеркивает необходимость повышения осведомленности о рисках AI-инструментов.
