Зазвичай для пиття AI була сильно завищена, згідно з нещодавно опублікованим звітом Google, який стверджує, що просування програмного забезпечення скоротило споживання води Близнюків за підказкою приблизно на п’ять крапель води – значно менше, ніж попередні оцінки.
Випадання вичерпної нової методології тестування, оцінки Google [PDF] Його додатки Gemini споживають 0,24 ватт годин електроенергії та 0,26 мілілітрів (мл) води для отримання текстового підказки середньої довжини.
Google зазначає, що це набагато менше, ніж 45 мл до 47,5 мл води, за якими Mistral AI та дослідники з UC Riverside зазначають, що потрібно створити приблизно текст, що коштує сторінки, використовуючи модель середнього розміру, як, наприклад, Mistral Big 2 або GPT-3.
Однак претензії Google вводять в оману, оскільки вони проводять помилкову еквівалентність між на місці та загальним споживанням води, за словами Шаолея Рен, доцента з електричної та комп'ютерної інженерії в Ріверсайді UC та одного з авторів робіт, цитованих у звіті Google.
Щоб зрозуміти, чому важливо знати, що обробки даних споживають воду як на місці, так і поза ним.
У приміщенні, що голодують, часто використовують охолоджуючі вежі, які випаровують воду, яка закачує в них. Цей процес охоплює повітря, що надходить у заклад, зберігаючи процесори та графічні процесори в межах перегріву. Використання води є більш ефективним, ніж холодоагент. За власними підрахунками Google, близько 80 відсотків усієї води, вилученої з вододілів поблизу її центрів обробки даних, споживається випаровуванням охолодження для цих обробних центрів.
Але вода також споживається в процесі отримання енергії, необхідної для того, щоб усі ці сервери гудували. Так само, як Adacenters, газ, вугілля та атомні установи також використовують охолоджуючі вежі, які – спойлер – також використовують багато води. Через це, обробки даних, які не споживають воду безпосередньо, все ще можуть мати великий вплив на місцевий вододіл.
Проблема, наголошує REN, не в тому, що Google не змогла повністю розглянути питання про споживання води. Це те, що пошуковий гігант порівнював яблука з апельсинами: його нова фігура – лише на місці, тоді як “дискредитована” фігура включала все споживання води.
“Якщо ви хочете зосередитись на споживанні води на місці, це добре, але якщо ви це зробите, вам також потрібно порівняти дані на місці з попередніми даними” на місці “.
Google цього не зробив. І це не так, як дослідження UC Riverside також не включали оцінки на місці. Google міг би зробити порівняння яблук до яблуків, але вирішив не робити,-стверджує REN.
“Їх практика не відповідає мінімальному стандарту, який ми очікуємо для будь -якого паперу, не кажучи вже про один від Google”, – сказав він.
Документ про 2023 року UC Riverside під назвою “Зробити AI менш” спраглим “: розкриття та вирішення таємного сліду води моделей AI”, що оцінюється на місці середнього рівня обробки даних США на 2,2 мл за запит.
Як ви бачите з паперу Riverside UC, споживання води на місці було набагато меншим, ніж 50 мл за підказку, цитованого у звіті Google – натисніть, щоб збільшити
47,5 мл на запит, який Google завершив до 50 мл у своєму папері, являв собою найвищий загальний Команда споживання води Рен зафіксувала, а на 2,8 рази вище середнього рівня США.
“Вони не тільки вибрали загальну кількість, але й вибрали нашу найвищу загальну кількість серед 18 локацій”, – сказав Рен.
Google не звертався до наших питань щодо порівняння, натомість надавши заяву, що дискредитується попередні висновки дослідника Ріверсайда UC як хибних.
“Ми розглянули претензії в дослідженні Ріверсайду UC, і наша команда інженерів водних ресурсів та гідрологів зробила висновок, що претензії та методи є недоліками”, – заявив у повідомленні керівника інфраструктурної стратегії та стійкості в Google. “Критична недолік у узагальненому дослідженні Ріверсайду UC полягає в тому, що він передбачає, що в сітці, що живиться переважно, традиційними, водяними охолодженими термоелектричними рослинами, які не відповідають справі для операцій центру обробки даних Google.”
Чому Google продовжував включати дані як на використанні води на місці, так і поза межами місця з паперу Riverside, пошуковий гігант не сказав.
Незважаючи на те, що 0,26 мл за підказку, заявленого Google, все ще значно нижчий, ніж середній показник на місці UC Riverside 2,2 мл для США, REN підкреслює, що ці цифри були вперше опубліковані в 2023 році.
Якщо Google дійсно вдалося скоротити енергетичний слід Gemini на 33 рази за останній рік, це означає, що модель була набагато менш ефективною водою, коли команда Ren також оприлюднила свої результати.
Ідея про те, що робочі навантаження AI стануть більш ефективними з часом, не дивно, зазначає REN. У первісному документі його команда передбачила поліпшення споживання води та енергії. ®