Оказывается, один запрос к ИИ может потратить столько же энергии, сколько LED-лампочка за 45 минут работы! 😱 Инженер Hugging Face сделал инструмент, который считает углеродный след ваших чатов с нейросетями. Теперь можно не только думать, что написать, но и сколько ватт это «стоит». 🌍💡
Инженер Hugging Face Жюльен Делаванд разработал инструмент, который оценивает энергопотребление каждого запроса к AI-моделям, таким как ChatGPT. Решение работает в реальном времени и отображает данные в ватт-часах или джоулях, сравнивая их с энергозатратами бытовых приборов. Например, запрос к модели Llama 3.3 70B на написание письма потребляет около 0.1841 ватт-часа — эквивалент работы микроволновки в течение 0.12 секунды. Хотя точность расчетов приблизительна, инструмент подчеркивает важность экологической осознанности при использовании AI. Делаванд надеется, что в будущем информация об энергопотреблении станет стандартом, подобно пищевым ценностям на продуктах. Инструмент интегрирован с Chat UI — открытым интерфейсом для моделей Meta и Google. Рост энергопотребления AI-индустрии уже вызывает опасения: аналитики прогнозируют резкий скачок спроса на электроэнергию в ближайшие годы. Некоторые компании идут на компромиссы с экологией, чтобы обеспечить вычислительные мощности. Инструмент Делаванда — шаг к прозрачности в этой сфере.
