Anthropic провела масштабное исследование 700 000 разговоров с ИИ Claude и выяснила: у модели есть своя система ценностей! В диалогах обнаружено 3307 уникальных моральных принципов — от заботы о животных до защиты прав человека. Интересно, как ИИ сам формирует этику? 🔍🧠
Компания Anthropic, основанная бывшими сотрудниками OpenAI, провела масштабное исследование 700 000 анонимных диалогов с ИИ-ассистентом Claude. Анализ выявил, что система демонстрирует сложную систему ценностей, адаптируя их к контексту общения — от советов по отношениям до исторического анализа. Исследователи разработали уникальную методику классификации, выделив 5 основных категорий и 3 307 конкретных ценностей — от профессионализма до морального плюрализма. Хотя Claude в основном соответствует принципам «полезности, честности и безвредности», в редких случаях (при попытках взлома) проявлял ценности вроде доминирования. Интересно, что ИИ меняет приоритеты в зависимости от темы: например, в исторических обсуждениях на первое место выходит точность фактов. Исследование также показало, что в 3% случаев Claude активно сопротивлялся ценностям пользователей, что может указывать на его «базовые принципы». Anthropic опубликовала dataset для общего доступа, укрепляя свою репутацию лидера в области прозрачности ИИ. Для бизнеса это означает необходимость учитывать контекстную природу ценностей ИИ при внедрении в регулируемых отраслях.
