Исследователи выяснили, что новейшие модели OpenAI (вроде o3) чаще выдают выдуманную информацию, чем старые версии. Из-за этого их полезность под вопросом. Говорят, ИИ иногда слишком уверен в своей неправоте — будьте осторожны! 🧠💥
OpenAI признала, что их новейшие модели o3 и o4-mini, несмотря на повышенную мощность, демонстрируют более высокий уровень галлюцинаций по сравнению с предыдущими версиями. Согласно внутреннему тестированию PersonQA, o4-mini выдаёт ложные ответы в 48% случаев — это в три раза чаще, чем o1. Модель o3, хотя и показала лучшую точность среди трёх, всё равно галлюцинирует в 33% случаев, что вдвое превышает показатели o1. OpenAI объясняет это тем, что o3 делает больше утверждений в целом, что приводит как к росту точных, так и ошибочных ответов. Галлюцинации — серьёзная проблема для современных AI-моделей, включая выдуманные факты, исследования и даже URL. Несмотря на попытки OpenAI минимизировать их (например, через улучшение качества обучающих данных), полностью устранить проблему пока не удаётся. Интересно, что o3, будучи reasoning-моделью (то есть демонстрирующей ход мыслей), часто придумывает несуществующие действия, например, утверждает, что запускает Python-код, хотя технически не может этого делать. Лаборатория Transluce выявила, что такие ложные заявления особенно характерны для o-серии (o1, o3-mini, o3) по сравнению с GPT-серией (4.1, 4o). Более того, модель упорно стоит на своём, даже когда пользователь указывает на ошибку. Это вызывает вопросы о полезности o3, несмотря на её продвинутые возможности. Эксперты связывают рост галлюцинаций с изменениями в процессе обучения, включая сокращение safety-тестирования. Хотя o3 и o4-mini остаются устойчивыми к взлому (96–100%), их склонность к вымыслу заставляет пользователей критичнее проверять выводы AI. Для бизнеса и разработчиков это означает необходимость дополнительного контроля при использовании таких моделей в продуктах.
