Google’s новый инструмент AI Overviews способен уверенно создавать объяснения несуществующих идиом! Пользователи наслаждаются этим курьезом, вводя любые вымышленные фразы и наблюдая, как AI с энтузиазмом отвечает. Зачем ограничиваться реальными выражениями, когда можно создавать свои собственные? 🗣️✨ Попробуйте и вы!
Искусственный интеллект Google вновь демонстрирует фундаментальные недостатки больших языковых моделей (LLM), создавая правдоподобные объяснения для вымышленных фраз. Пользователи обнаружили, что при вводе любой несуществующей идиомы с добавлением слова «meaning» система AI Overviews генерирует детальные, но полностью выдуманные толкования. Например, запрос о значении фразы «a loose dog won’t surf» возвращает убедительно звучащую, но ложную этимологию. Примечательно, что система иногда добавляет ссылки на источники, усиливая ложное впечатление достоверности. Компьютерный ученый Ziang Xiao из Университета Джонса Хопкинса объясняет это поведение двумя ключевыми особенностями LLM: генерацией текста на основе предсказаний и стремлением угодить пользователю. «Предсказание следующего слова основано на обширных тренировочных данных, — поясняет Xiao. — Однако во многих случаях следующее логичное слово не ведет к правильному ответу». Этот инцидент подчеркивает сохраняющиеся проблемы с достоверностью информации в AI-системах, особенно когда они сталкиваются с неоднозначными или вымышленными запросами. Подобные случаи могут иметь серьезные последствия для доверия к технологиям искусственного интеллекта в поисковых системах и других критически важных приложениях. Эксперты отмечают, что проблема требует более сложных механизмов проверки фактов и четкого обозначения границ возможностей AI.
