Umělá inteligence už dávno opustila bezpečné laboratoře technologických gigantů a stala se pevnou součástí našich životů. Jenže stejně jako dokáže usnadnit práci nebo zrychlit komunikaci, stává se i nebezpečnou zbraní. Technologický gigant Google se proto nyní rozhodl k radikálnímu kroku a podal rozsáhlou žalobu na čínskou kyberkriminální síť známou jako Outsider Enterprise.
Tato skupina totiž k obřím finančním podvodům zneužila přímo pokročilé jazykové modely Gemini od Googlu. A tím zasadila citelnou ránu nejen peněženkám obětí, ale i samotné reputaci AI systémů.
Mohlo by vás zajímat
Dokonalá iluze vytvořená umělou inteligencí
Podvodné kampaně, phishing a scamy nejsou v digitálním světě ničím novým. Ale nasazení generativní umělé inteligence posunulo jejich efektivitu na zcela novou úroveň. Útočníci v tomto případě využili schopnosti Gemini k bleskovému generování tisíců falešných webových stránek, které k nerozeznání napodobovaly oficiální služby Googlu, YouTube, ale také státní instituce včetně americké poštovní služby.
Cílem bylo jediné – vylákat z důvěřivých uživatelů citlivé finanční údaje. Tradiční varovné signály, jako nedokonalý jazyk nebo očividné gramatické chyby, které dříve pomáhaly uživatelům podvody rychle odhalit, s příchodem AI prakticky mizí. Systémy jako Gemini dokážou vygenerovat perfektní, stylisticky čistý a důvěryhodný text v jakémkoliv jazyce, což běžným uživatelům ztěžuje možnosti rozpoznat podvod.
Fotogalerie
Globální dopad AI podvodů
Ačkoliv žaloba primárně reaguje na škody způsobené na americkém trhu, problém má i mezinárodní charakter:
- Útočníci vytvořili 9 000 falešných webových stránek a více než 1 milion podvodných URL adres.
- Během pouhých dvou týdnů dokázali odeslat 2,5 milionu podvodných textových zpráv obsahujících odkazy na tyto webové stránky.
- Google a operátoři jen za květen obdržely 55 000 hlášení o spamových SMS zprávách.
- Finanční škody se šplhají do milionů.
Google musel okamžitě zahájit úzkou spolupráci s telekomunikačními operátory a federálními úřady, aby dokázal tyto masivní vlny spamu blokovat dříve, než vůbec dorazí do telefonů uživatelů. Podobným výzvám přitom nečelí jen tento technologický gigant. Velcí hráči na trhu, jako je Samsung, kteří staví své softwarové nadstavby a ekosystémy na základech Androidu a úzce integrují funkce Gemini, také musí investovat enormní úsilí do bezpečnostních filtrů.
Pro koncové uživatele, a zejména ty v EU, kde platí přísná pravidla pro ochranu dat, to znamená, že technologické firmy budou muset ještě agresivněji nasazovat proaktivní ochranu přímo na úrovni operačního systému.
Volání po přísnější regulaci AI
Krok Googlu není jen snahou o potrestání jedné konkrétní skupiny, ale funguje také jako silný politický signál. Společnost paralelně tlačí na modernizaci legislativy, která by lépe reflektovala hrozby spojené s érou umělé inteligence. Současné zákony totiž často pokulhávají za technologickým vývojem a stíhání organizovaných skupin operujících z Asie je právně nesmírně komplikované.
Celá situace je přitom pro technologický svět nepříjemným mementem. Technologie, která měla sloužit k lidskému pokroku, se obratem stala efektivním nástrojem internetového podvádění. Pro běžného uživatele z toho přitom plyne zásadní ponaučení – ani sebelepší bezpečnostní filtry v telefonu nenahradí zdravou skepsi při klikání na odkazy v textových zprávách.
