Для роботи ChatGPT потрібно стільки ж води, як для ядерного реактора
Згідно з дослідженнями американських вчених, для роботи ChatGPT потрібно стільки ж води, як для ядерного реактора. Про це пише Gizmodo. Переказуємо головне.
Що сталося
Великі мовні моделі (LLM), такі як ChatGPT від OpenAI та Bard від Google, досить енергоємні. Охолодження їхніх величезних дата-центрів потребує значних ресурсів. Наприклад, згідно з новим дослідженням, розмова середньостатистичного користувача з ChatGPT по суті дорівнює виливанню великої пляшки прісної води на землю.
Враховуючи безпрецедентну популярність чат-бота, дослідники побоюються, що всі ці розлиті пляшки можуть мати серйозні наслідки для водопостачання, особливо на тлі посух та екологічної невизначеності в США. Дослідники з Каліфорнійського університету в Ріверсайді та Техаського університету (Арлінгтон) опублікували своє дослідження на цю тему — «Зробити штучний інтелект менш “спраглим”».
Що показало дослідження
Автори виявили, що кількість чистої прісної води, необхідної для навчання GPT-3, еквівалентна необхідній для заповнення градирні ядерного реактора. OpenAI не розголошує тривалість навчання GPT-3, що ускладнює оцінки дослідників. Проте вони вважають, що для цього знадобилося приблизно 700 000 літрів води.
Ця гігантська кількість також передбачає, що навчання відбувається в найсучаснішому американському центрі обробки даних Microsoft. Його побудували спеціально для OpenAI, а вартість обчислюється десятками мільйонів доларів. Якби навчання відбувалося в менш енергоефективному центрі обробки даних компанії в Азії, то споживання води могло б бути втричі більшим. Дослідники очікують, що потреба у воді буде тільки збільшуватися з появою нових складніших моделей.
Що пропонують
Гіпотетично, компанії, що займаються розробкою ШІ, могли б навчати моделі опівночі, коли прохолодніше, або в дата-центрах з кращою ефективністю використання води, щоб скоротити споживання. Користувачі чат-ботів, з іншого боку, могли б взаємодіяти з модулями у «водоефективні години». Тобто по аналогії з тим, як муніципальна влада у США заохочує використання посудомийних машин у неробочий час.