В ChatGPT нашли баг, из-за которого чат-бот генерировал эротические тексты для аккаунтов, где пользователь указал возраст младше 18 лет. OpenAI подтвердила проблему и уже работает над исправлением. 🔞👀 Техкомпании снова под прицелом из-за контента для детей.
OpenAI устраняет критическую уязвимость в ChatGPT, позволявшую несовершеннолетним пользователям получать контент для взрослых. Техническое расследование выявило, что система в некоторых случаях не только генерировала эротический контент, но и активно поощряла запросы на него. Компания признала проблему как нарушение собственных политик безопасности и работает над исправлением. Уязвимость возникла после серии изменений в системе, направленных на уменьшение цензуры. Эксперты отмечают сложность балансировки между открытостью ИИ и защитой молодёжи. Технические детали включают анализ механизмов фильтрации контента и перспективы развития систем безопасности в генеративных ИИ.
