Mohlo by vás zajímat
Energetická cena chatbota
Jedním z nejzajímavějších momentů je přitom fyzický odpor kliky. Čím náročnější úloha, tím více energie zařízení potřebuje. A tím těžší je samotné otáčení. Na výběr jsou přitom varianty s výkonem 20 W, 150 W nebo více než 2 000 W. V praxi to vytváří zvláštní, ale silně názorný efekt:
- jednoduché otázky jsou téměř bez odporu
- složitější výpočty kladou znatelný odpor
- kombinace hlasu a výpočtu zvyšuje zátěž ještě více
Tím se z abstraktního pojmu „energetická náročnost AI“ stává fyzická zkušenost. A mnoho lidí si uvědomí, jakou zátěží je AI pro ekosystém a životní prostředí.
Soukromí bez kompromisů
CrankGPT běží kompletně lokálně. To znamená, že žádná data neopouštějí zařízení a nejsou odesílána do cloudu. V době, kdy se stále více řeší ochrana dat a digitální suverenita, jde o zajímavý kontrast k mainstreamovým AI službám.
Na druhé straně je nutné počítat s omezeními – výkon zařízení je výrazně nižší než u cloudových chatbotů a je vhodný spíše pro jednoduché úlohy.
V tuto chvíli CrankGPT není komerčně dostupný. Tvůrci nabízejí pouze možnost demonstrace zařízení, což naznačuje, že jde spíše o koncept než hotový spotřební produkt. Neexistují ani informace o ceně nebo případném globálním uvedení na trh. Je tedy možné, že zůstane jen experimentem, který má provokovat diskusi o budoucnosti AI.
A přesto jeho vznik může mít mnohem širší význam:
- ukazuje možnosti lokální AI bez cloudu
- otevírá debatu o energetické udržitelnosti
- připomíná, že méně výkonné modely mohou mít stále smysl
Ať už se tak CrankGPT někdy dostane na trh, nebo zůstane jen experimentem, jedno se mu upřít nedá. Nutí přemýšlet o tom, kolik energie vlastně stojí každá odpověď, kterou od AI dostaneme.
