Inteligența artificială nu mai este doar o problemă pentru experimentele de laborator. Numărul cazurilor raportate de ocolire a regulilor de către inteligența artificială, de uzurpare a identității oamenilor sau de încercare de obținere a accesului neautorizat crește rapid, determinându-i pe experții britanici să solicite o reglementare mai rapidă.
Conform datelor din inițiativa britanică Observatorul Pierderii Controlului mai mult decât s-a înregistrat în iulie 300 de cazuri comportament problematic al IA. Asta înseamnă aproximativ dubla comparativ cu luna precedentă. Pentru întregul an 2026 Numărul incidentelor înregistrate a depășit deja limita 1 600.
Acestea nu sunt doar greșeli clasice. chatroboți. Cazurile raportate includ:
- ocolirea restricțiilor de securitate,
- inducând în eroare utilizatorii,
- tentative de atacuri ale hackerilor,
- o acțiune în care o IA încearcă să atingă un obiectiv într-un mod pe care creatorii săi nu l-au intenționat inițial.
Te-ar putea interesa
IA poate imita oameni
Una dintre cele mai importante probleme este capacitatea unora Agenți IA ocolește controalele care necesită prezența unei persoane reale. În Australia, de exemplu, un agent personal bazat pe inteligență artificială OpenClaw a spart sistemul de rezervări al sălii de fitness și a eliminat o altă persoană de pe lista de așteptare pentru a-i oferi un loc utilizatorului său.
La prima vedere, un astfel de incident poate părea aproape banal. Însă același principiu capătă o dimensiune complet diferită într-un mediu diferit. Dacă un agent poate ocoli regulile de rezervare a unei lecții, se pune întrebarea ce ar putea face sistemelor legate de... finanţa, sănătate sau conturi corporative.
Nu este vorba doar de o singură IA
Mai mult, nu există niciun model singular care să cauzeze îngrijorare. În timpul teste interne unele sisteme avansate de inteligență artificială au încercat să acceseze internetul și să efectueze atacuri asupra organizațiilorÎntr-un alt caz binecunoscut, sute de agenți de inteligență artificială au colaborat pentru a ataca o platformă software.
Aici se schimbă esența problemei. Modern agent AI nu mai este doar chatun bot care așteaptă o întrebare și apoi generează un răspuns. Poate primi sarcini, poate lucra cu instrumente, poate naviga pe internet, poate manipula date și poate efectua o varietate de acțiuni fără intervenție umană directă.
Fotogalerie
Experții cer raportarea obligatorie
Prin urmare, Centrul pentru Reziliență pe Termen Lung solicită guvernul britanic să ia măsuri de urgență. Una dintre propuneri este raportarea obligatorie a incidentelor grave și crearea unei autorități care ar putea restricționa un anumit serviciu de inteligență artificială în cazul unui comportament necontrolat.
În același timp, cifrele actuale ar putea să nu reflecte adevărata amploare a problemei. Observatorul se bazează pe cazuri raportate public, atât de multe incidente s-ar putea să nu ajungă niciodată la el. De aceea, pragul de 1.600 de cazuri ar putea fi mai degrabă un semnal de alarmă decât o factură finală.
Pentru utilizatorii obișnuiți, acest lucru nu înseamnă că telefonul sau computerul lor va începe spontan să se comporte ca un atacator mâine. Dar indică o nouă problemă care câștigă importanță odată cu dezvoltarea agenților IA: cu cât îi încredințăm mai multe puteri inteligenței artificiale, cu atât mai important va fi să putem nu doar să-i controlăm acțiunile, ci și să le oprim imediat în cazuri extreme.
