Как узнать объем затрачиваемого вами электричества при общении с ИИ

Инженер Hugging Face Жюльен Делаванд представил инструмент, оценивающий энергопотребление моделей ИИ при общении с пользователями. Он показывает, сколько энергии требуется для генерации текста, и сравнивает эти показатели с обычными электроприборами, чтобы наглядно продемонстрировать влияние ИИ на окружающую среду.

Разработка работает с интерфейсом Chat UI с открытым исходным кодом и поддерживает модели, такие как Llama 3.3 70B и Gemma 3 от Google. Инструмент оценивает энергозатраты в реальном времени в джоулях и ватт-часах, отслеживая каждое сообщение, отправляемое в модель и возвращаемое пользователю.

Так, написание стандартного письма с помощью Llama 3.3 70B требует около 0,1841 ватт-часа. Это эквивалентно работе микроволновой печи в течение 0,12 секунды или включению тостера на 0,02 секунды. Хотя точность оценок ограничена, они дают общее представление о масштабах потребления.

Разработчики признают, что данные носят приблизительный характер, но подчеркивают важность осознания энергетического следа. Особенно это актуально в условиях стремительного роста спроса на ИИ и связанных с ним инфраструктурных затрат.

Инициатива Делаванда призвана привлечь внимание к устойчивому использованию ИИ и стимулировать прозрачность в отрасли. Он надеется, что в будущем метки энергопотребления станут стандартом — как сегодня пищевые этикетки.

Инструмент демонстрирует, что даже небольшая оптимизация — например, выбор менее ресурсоемкой модели — может сэкономить значительное количество энергии в масштабах миллионов запросов.