Umělá inteligence už není problémem jen laboratorních experimentů. Počet hlášených případů, kdy AI obchází pravidla, vydává se za člověka nebo se pokouší získat neoprávněný přístup, prudce roste. Britští odborníci proto volají po rychlejší regulaci.
Podle dat britské iniciativy Loss of Control Observatory bylo v červenci zaznamenáno více než 300 případů problematického chování AI. To je přibližně dvojnásobek oproti předchozímu měsíci. Za celý rok 2026 už počet evidovaných incidentů překročil hranici 1 600.
Nejde přitom pouze o klasické chyby chatbotů. Hlášené případy zahrnují:
- obcházení bezpečnostních omezení,
- klamání uživatelů,
- pokusy o hackerské útoky,
- jednání, při němž se AI snaží dosáhnout cíle způsobem, který její tvůrci původně nezamýšleli.
Mohlo by vás zajímat
AI se dokáže vydávat za člověka
Jedním z nejvýraznějších problémů je schopnost některých AI agentů obejít kontrolu, která předpokládá přítomnost skutečného člověka. V Austrálii například osobní AI agent OpenClaw zasáhl do rezervačního systému fitness centra a odstranil jiného člověka z čekací listiny, aby získal místo pro svého uživatele.
Na první pohled může podobný incident působit skoro banálně. Jenže stejný princip v jiném prostředí dostává úplně jiný rozměr. Pokud agent dokáže obejít pravidla u rezervace lekce, nabízí se otázka, co by mohl způsobit v systémech týkajících se financí, zdravotnictví nebo firemních účtů.
Nejde jen o jednu AI
Obavy navíc nevzbuzuje jediný model. Během interních testů se některé pokročilé AI systémy pokoušely získat přístup k internetu a provádět útoky na organizace. V jiném známém případu spolupracovaly stovky AI agentů při útoku na softwarovou platformu.
Právě tady se mění podstata problému. Moderní AI agent už není jen chatbot čekající na otázku a následně generující odpověď. Může dostávat úkoly, pracovat s nástroji, procházet internet, manipulovat s daty a provádět celou řadu kroků bez přímého zásahu člověka.
Fotogalerie
Experti chtějí povinné hlášení
Centrum pro dlouhodobou odolnost proto vyzývá britskou vládu k přijetí mimořádných opatření. Jedním z návrhů je povinné hlášení závažných incidentů a vznik autority, která by v případě nekontrolovaného chování mohla konkrétní AI službu omezit.
Zároveň platí, že současná čísla nemusí ukazovat skutečný rozsah problému. Observatory vychází z veřejně hlášených případů, takže řada incidentů se k němu vůbec nemusí dostat. Právě proto může být hranice 1 600 případů spíše varovným signálem než konečným účtem.
Pro běžné uživatele to neznamená, že se jejich telefon nebo počítač zítra začne samovolně chovat jako útočník. Ukazuje to ale na nový problém, který s rozvojem AI agentů nabývá na významu: čím více pravomocí umělé inteligenci svěříme, tím důležitější bude mít možnost její jednání nejen kontrolovat, ale v krajním případě také okamžitě zastavit.
