V poslední době v technologickém světě jako jedno z hlavních témat rezonují chatovací roboti pohánění tzv. generativní umělou inteligenci. Tím nejznámějším chatbotem je bezesporu ChatGPT, který vyvinula organizace OpenAI, v níž se ve velké míře angažuje Microsoft. ChatGPT byl nejprve dostupný jako webová aplikace a nedávno se dostal na telefony s Androidem.
Zpracování odpovědí a trénování velkých jazykových modelů, jako je GPT3.5, který pohání bezplatnou verzi ChatGPT, je velmi náročné na zdroje. Tyto kalkulace také jako vedlejší produkt generují značné množství tepla, které vyžaduje mnoho vody pro chlazení.
Fotogalerie
Microsoft investoval svou první miliardu do OpenAI již v roce 2019, pár let předtím, než ChatGPT vzal technologický svět útokem. Datová centra softwarového giganta byla použita k vytrénování jazykového modelu GPT4 na obrovském množství obsahu vytvořeného lidmi. V roce 2020 Microsoft odhalil, že superpočítač pro tento úkol používá 285 000 jader běžných polovodičů a 10 000 grafických procesorů, které jsou pro pracovní zátěž spojenou s AI zcela nezbytné. Je pochopitelné, že takový hardware generuje obrovské množství tepla. Odvádění takto vzniklého tepla obvykle vyžaduje vodu nebo jiné chladicí kapaliny čerpané v obřím měřítku.
Mohlo by vás zajímat
Nedávná zpráva časopisu Fortune o vlivu chatbotů využívajících generativní AI na životní prostředí uvádí, že spotřeba vody pro chlazení datových center Microsoftu vzrostla mezi roky 2021 až 2022 o 34 %. Nyní činí neuvěřitelných 6,4 miliardy litrů, což je pro bližší představu 2500 olympijských bazénů. Microsoft nedávno odhalil, že jazykový model GPT4 byl „vyroben“ v datovém centru v Iowě a že je chlazen vodou z řek Raccoon a Des Moines. Dodal, že vodu používá pouze tehdy, když teplota překročí 29 °C, ale i tak před dokončením GPT4 do clusteru napumpoval zhruba 43,5 milionu litrů vody, což je 6 % spotřeby celé čtvrti.
Výzkumník z Kalifornské univerzity odhaduje, že organizace OpenAI na každých 5 až 50 dotazů, které uživatelé jeho chatbotovi položí, použije kolem 500 ml vody. Tato statistika bere v úvahu i vodu spotřebovanou při výrobě energie pro datové centrum. Jak se zdá, voda je na naší planetě skutečně nejcennějším zdrojem.
Jak konkrétně se voda spotřebuje? Voda ochladí procesor ohřeje se , zchladne a jede znova. Nebo pokud funguje chlazení jako u elektrárny, tak jde zpět do řeky. Ale určitě se nikam neztratí. Redaktor asi moc nezvládal fyziku na základce.