Сколько энергии потребляет ваш запрос к ChatGPT — Сэм Альтман ответил

CEO OpenAI Сэм Альтман рассказал, что средний запрос к ChatGPT потребляет около 0,34 ватт-часа – этого достаточно, чтобы лампочка светилась несколько минут. Он также поделился прогнозами по снижению энергопотребления ИИ в ближайшие годы. Об этом пишет Business Insider.

Что произошло

Сэм Альтман , CEO OpenAI, в своем блоге поделился деталями по энергопотреблению ChatGPT . По его словам, один среднестатистический запрос в чат-бот требует около 0,34 ватт-часа — этого достаточно, чтобы высокоэффективная лампочка работала несколько минут. Альтман также отметил, что при каждом запросе расходуется примерно 0,000085 галлонов воды – это около одной пятнадцатой чайной ложки.

Он также поделился своими прогнозами по дальнейшему развитию энергопотребления в сфере искусственного интеллекта. В частности, Альтман ожидает , что уже в 2030-х годах энергия станет “чрезвычайно избыточной”, а стоимость интеллектуальных вычислений будет постепенно приближаться к стоимости электроэнергии благодаря автоматизации центров обработки данных.

Почему это интересно

Несмотря на распространенное мнение о значительном энергопотреблении ИИ, средний запрос к ChatGPT нуждается в относительно мало ресурсах. В то же время, технологические компании уже готовятся к росту объемов вычислений и ищут новые источники энергии. К примеру, Microsoft заключила соглашение на 20 лет с Constellation Energy по реактивации атомной электростанции на острове Три-Майл-Айленд. Google сотрудничает с Kairos Power по строительству трех небольших ядерных реакторов, которые должны заработать до 2035 года.

Сундар Пичаи, CEO Google, добавил , что компания стремится достичь нулевого уровня выбросов к 2030 году, в частности, используя солнечную и ядерную энергетику для питания центров обработки данных.

Что дальше

По оценкам Альтмана, стоимость работы ИИ продолжит стремительно снижаться. В качестве примера он привел сравнение: между запуском GPT-4 в начале 2023 года и выходом GPT-4o в середине 2024 года цена за токен уменьшилась в 150 раз.

Альтман сравнил это с «новой версией закона Мура», где стоимость снижается не в два раза каждые 18 месяцев, а в десять раз в год.