Închide anunțul

Inteligență artificială pe acționare manuală. ManivelăGPT arată cât de mult „doare” fiecare răspuns

alte
J. SkálováJana Skálová
0
Ideea de a vorbi cu o inteligență artificială în timp ce o „alimentezi” simultan cu propria mână sună ca o hiperbolă dintr-o satiră tehnologică. CrankGPT dar exact ideea la care vine. Proiectul european Squeez Labs prezintă conceptul unui dispozitiv mic care se bazează pe o simplă manivelă în loc de o baterie sau un ștecher.
În timp ce inteligența artificială de astăzi funcționează în centre de date masive, ManieGPT Puterea se naște chiar sub degetele utilizatorului. Fiecare rotire a manivelei înseamnă energie atât pentru calcul, cât și pentru răspuns. În interiorul dispozitivului se află o combinație de generator manual a minicalculator bazat pe Zmeură Pi 5Nu este un supercomputer puternic, ci un sistem optimizat eficient care funcționează cu modele lingvistice mai mici.
ManieGPT foloseste, de exemplu, uşurat variaModele de tip Gemma sau Lichid AI LFM2, care sunt capabile să gestioneze conversații de bază, întrebări simple sau să genereze texte scurte. Răspunsurile sunt apoi convertite în forme de voce folosind o voce sintetică integrată. Rezultatul este o interacțiune care pare surprinzător de complexă – singura diferență fiind că utilizatorul performanța funcționează la propriu.
ManieGPT ManieGPT
ManieGPT 2 ManieGPT 2
ManieGPT 3 ManieGPT 3
ManieGPT 4 ManieGPT 4
ManieGPT 5 ManieGPT 5
Intră în galerie

Prețul energiei chatcizmă

Unul dintre cele mai interesante aspecte este rezistența fizică a manivelei. Cu cât sarcina este mai solicitantă, cu atât dispozitivul necesită mai multă energie. Și cu atât este mai greu de rotit. Există varianty cu performanță 20 W, 150 W sau mai mult decât 2 000 VÎn practică, acest lucru creează un efect ciudat, dar puternic ilustrativ:

  • întrebările simple sunt aproape fără opoziție
  • calcule mai complexe prezintă o rezistență notabilă
  • Combinația dintre voce și calcul crește și mai mult volumul de muncă

Aceasta transformă conceptul abstract în „Intensitatea energetică a inteligenței artificiale” devine o experiență fizică. Și mulți oameni își vor da seama ce povară reprezintă IA pentru ecosistem și mediu.

Confidențialitate fără compromisuri

ManieGPT funcționează complet local. Aceasta înseamnă că nicio dată nu părăsește dispozitivul sau nu este trimisă către cloudÎntr-un moment în care protecția datelor și suveranitatea digitală sunt din ce în ce mai abordate, acesta este un contrast interesant cu ceea ce se abordează în mod curent. Servicii de inteligență artificială.

Pe de altă parte, este necesar să se țină cont de limitări - performanța dispozitivului este semnificativ mai mic decât cloudových chatroboții și este mai potrivit pentru sarcini simple.

În acest moment, CrankGPT nu este disponibil comercialCreatorii oferă doar opțiunea demonstrație de dispozitiv, ceea ce sugerează că este vorba mai mult despre Koncept decât un produs finit de consum. De asemenea, nu există informații despre Preț sau o posibilă lansare globală. Așadar, este posibil să rămână doar un experiment pentru a provoca discuții despre viitor AI.

Și totuși, apariția sa poate avea un sens mult mai larg:

  • arată posibilitățile IA locală fără cloudu
  • deschide dezbaterea privind sustenabilitatea energetică
  • reamintește că modelele mai puțin puternice pot avea totuși sens

Fie cum o fi, CrankGPT Indiferent dacă va ajunge vreodată pe piață sau va rămâne doar un experiment, un lucru este sigur. Te face să te gândești câtă energie costă de fapt fiecare răspuns pe care îl primim de la inteligența artificială.

Sursă
Discuţie

Legate de



Cel mai citit de azi

Cele mai citite


.