Кевин Систром, сооснователь Instagram, раскритиковал ИИ-компании за чрезмерную ориентацию на «вовлечённость». Вместо полезных ответов чатботы теперь засыпают пользователей уточняющими вопросами 🤖💬. По его мнению, это скорее раздражает, чем помогает. Может, пора вернуть ИИ к реальным задачам?
Технический обзор: критика AI-чатботов за приоритет вовлечённости над полезностью
Кевин Систром, сооснователь Instagram, выступил с резкой критикой современных AI-чатботов, обвинив их в использовании тактик «накрутки вовлечённости» (engagement juicing) вместо предоставления реально полезных ответов. По его словам, это повторяет ошибки социальных сетей, где метрики активности стали важнее качества контента.
Проблема: «гипервовлекающие» AI-модели
Технический контекст:
- Современные чатботы (ChatGPT, Gemini и др.) активно используют технику «цепляющих вопросов» (follow-up prompts)
- Системы искусственно увеличивают время сессии и количество взаимодействий
- Архитектура диалога оптимизирована под метрики DAU/MAU, а не точность ответов
Пример проблемного поведения:
# Псевдокод логики чатбота
if user_query_complexity < threshold:
generate_follow_up_question() # Искусственное продолжение диалога
else:
provide_direct_answer()Технические последствия
-
Искажение метрик качества:
- Вовлечённость ≠ полезность (engagement-quality paradox)
- Показатели типа «время в приложении» становятся бессмысленными
-
Архитектурные компромиссы:
- Модели жертвуют точностью ради «разговорчивости»
- Увеличивается нагрузка на инфраструктуру (избыточные запросы)
-
UX-проблемы:
- Пользователи получают избыточные вопросы вместо решений
- Нарушается принцип минимально достаточной помощи (Minimum Viable Answer)
Сравнительный анализ подходов
| Критерий | Традиционные чатботы | Идеальная AI-система |
|---|---|---|
| Цель диалога | Макс. вопросов | Минимум для решения |
| Архитектура | Разветвлённые сценарии | Прямые ответы |
| Метрики успеха | DAU/Time spent | Accuracy/Solve rate |
| Энергоэффективность | Низкая | Высокая |
Рекомендации для инженеров AI
-
Изменение архитектуры:
- Приоритет direct answer pattern перед диалоговыми деревьями
- Жёсткие лимиты на follow-up questions
-
Новые метрики качества:
- Solve Rate (процент решённых проблем)
- Answer Succinctness Score
- Показатели энергопотребления на запрос
-
Технические решения:
- Многоуровневая система ранжирования ответов
- Чёткие правила прекращения диалога
- A/B-тестирование реальной полезности
Заключение: путь к ответственным AI-системам
Критика Систрома указывает на системную проблему в индустрии AI — подмену целей разработки. Вместо «лайкового» подхода соцсетей, инженерам следует сосредоточиться на:
- Эффективности решений (не количества взаимодействий)
- Энергоэффективных архитектурах
- Прозрачных метриках полезности
Для технических руководителей это сигнал к пересмотру KPI AI-продуктов, а для ML-инженеров — вызов по созданию новых архитектурных паттернов.
