Гугловский ИИ снова удивляет! Его генеративные модели так уверенно объясняют несуществующие идиомы, что даже «дважды барсука не лизнёшь» звучит правдоподобно. 🤖💬 Mem-материал обеспечен!
Генеративный ИИ Google столкнулся с новой проблемой: его система AI Overviews уверенно объясняет значения совершенно выдуманных фраз, создавая иллюзию достоверности. Этот феномен стал вирусным после того, как пользователи начали проверять, как поисковик интерпретирует несуществующие идиомы вроде «you can’t lick a badger twice» или «blew up like a brook trout».
Тренд начался в социальных сетях, когда писательница Меган Уилсон Анастасиос обнаружила, что поиск по запросу «peanut butter platform heels meaning» выдал фантастическое объяснение о создании алмазов из арахисового масла под высоким давлением. Пользователи быстро подхватили игру, проверяя, как Google интерпретирует абсурдные фразы.
Эксперты объясняют это фундаментальным ограничением больших языковых моделей (LLM). «Они созданы генерировать беглые, правдоподобные ответы, даже когда входные данные бессмысленны», — поясняет Яфанг Ли, профессор Университета Мемфиса. Проблема в том, что ИИ не проверяет истинность, а просто «дополняет предложение».
Google признает проблему, называя такие запросы «data void» — ситуациями с недостатком релевантной информации. Представитель компании заявил, что они работают над улучшением системы, чтобы ограничивать появление AI Overviews в подобных случаях и предотвращать выдачу вводящей в заблуждение информации.
Интересно, что другие LLM, такие как ChatGPT, демонстрируют схожее поведение, но с меньшей уверенностью. Когда авторы попросили объяснить фразу «you can’t lick a badger twice», ChatGPT признал, что это не стандартная идиома, но все равно предложил возможную интерпретацию.
Этот случай наглядно демонстрирует фундаментальную проблему генеративного ИИ — склонность к «галлюцинациям» (hallucination), когда модель генерирует правдоподобную, но вымышленную информацию. Недавний опрос показал, что большинство исследователей ИИ сомневаются в скором решении проблем точности и надежности таких систем.
Эксперты советуют пользователям сохранять скептицизм и всегда проверять информацию. Яфанг Ли рекомендует формулировать запросы с осторожностью: вместо «что означает X» спрашивать «является ли X реальной идиомой?». Это может помочь системе распознать вымышленные фразы и избежать ложных интерпретаций.
