Для роботи ChatGPT потрібно стільки ж води, як для ядерного реактора

Згідно з дослідженнями американських вчених, для роботи ChatGPT потрібно стільки ж води, як для ядерного реактора. Про це пише Gizmodo. Переказуємо головне.

Що сталося

Великі мовні моделі (LLM), такі як ChatGPT від OpenAI та Bard від Google, досить енергоємні. Охолодження їхніх величезних дата-центрів потребує значних ресурсів. Наприклад, згідно з новим дослідженням, розмова середньостатистичного користувача з ChatGPT по суті дорівнює виливанню великої пляшки прісної води на землю.

Враховуючи безпрецедентну популярність чат-бота, дослідники побоюються, що всі ці розлиті пляшки можуть мати серйозні наслідки для водопостачання, особливо на тлі посух та екологічної невизначеності в США. Дослідники з Каліфорнійського університету в Ріверсайді та Техаського університету (Арлінгтон) опублікували своє дослідження на цю тему —  «Зробити штучний інтелект менш “спраглим”». 

Що показало дослідження

Автори виявили, що кількість чистої прісної води, необхідної для навчання GPT-3, еквівалентна необхідній для заповнення градирні ядерного реактора. OpenAI не розголошує тривалість навчання GPT-3, що ускладнює оцінки дослідників. Проте вони вважають, що для цього знадобилося приблизно 700 000 літрів води.

Ця гігантська кількість також передбачає, що навчання відбувається в найсучаснішому американському центрі обробки даних Microsoft. Його побудували спеціально для OpenAI, а вартість обчислюється десятками мільйонів доларів. Якби навчання відбувалося в менш енергоефективному центрі обробки даних компанії в Азії, то споживання води могло б бути втричі більшим. Дослідники очікують, що потреба у воді буде тільки збільшуватися з появою нових складніших моделей.

Що пропонують

Гіпотетично, компанії, що займаються розробкою ШІ, могли б навчати моделі опівночі, коли прохолодніше, або в дата-центрах з кращою ефективністю використання води, щоб скоротити споживання. Користувачі чат-ботів, з іншого боку, могли б взаємодіяти з модулями у «водоефективні години». Тобто по аналогії з тим, як муніципальна влада у США заохочує використання посудомийних машин у неробочий час.