Гендиректор Anthropic Дарьо Амодеи заявил, что даже разработчики плохо понимают, как работают современные ИИ-модели. Компания хочет разобраться в этом к 2027 году. 🔍🤖 Интересно, получится ли у них раскрыть секреты искусственного интеллекта?
Глава Anthropic Дарьо Амодеи поставил амбициозную цель: к 2027 году научиться надежно выявлять большинство проблем в работе ИИ-моделей. В своем эссе «The Urgency of Interpretability» он подчеркивает, что современные системы искусственного интеллекта остаются «черным ящиком» даже для их создателей. Несмотря на впечатляющие успехи в производительности, исследователи до сих пор не понимают, как именно ИИ принимает решения. Например, новые модели OpenAI — o3 и o4-mini — демонстрируют лучшие результаты в некоторых задачах, но при этом чаще генерируют ошибочные ответы (так называемые «галлюцинации»), и причина этого неизвестна. Амодеи сравнивает ИИ-модели с «страной гениев в дата-центре» и считает, что достижение искусственного общего интеллекта (AGI) без понимания его внутренней работы может быть опасно. Anthropic уже добилась первых прорывов в области интерпретируемости — например, научилась отслеживать «цепи» (circuits) в моделях, отвечающие за конкретные задачи, такие как определение местоположения городов в США. Однако таких цепей могут быть миллионы, и их полное картографирование потребует еще 5–10 лет исследований. Помимо собственных разработок, компания инвестирует в стартапы, специализирующиеся на интерпретируемости. Амодеи призывает OpenAI, Google DeepMind и правительства активнее поддерживать это направление, включая «мягкие» регуляторные меры и экспортные ограничения на чипы для Китая. В отличие от многих игроков отрасли, Anthropic традиционно делает акцент на безопасности ИИ, что проявилось и в ее умеренной поддержке спорного законопроекта SB 1047 в Калифорнии.
