Google a Apple už před časem řešily nepříjemnou kauzu, kdy v jejich obchodech Google Play a App Store bylo objeveno mnoho aplikací, které s pomocí AI svlékaly lidi. Bylo možné zneužívat je ke kyberšikaně, a tak s nimi oba technologičtí giganti začali zarputile bojovat. A zdálo se, že je vymýtili. Ale není to tak. Nejnovější zjištění ukázala, že takových aplikací je ke stažení opět zhruba 400.
Takzvaný vibecoding a rozmach schopností AI modelů zapříčinily, že Google Play se bez ustání plní aplikacemi, které vytvořili úplní nováčci bez znalosti programování. Umělá inteligence ale už dokáže kódovat za lidi a na pár promptů je možné vytvořit s jejich pomocí takřka jakoukoliv aplikaci. Což není nutně špatně, i když mnoho lidí takové počiny s odporem pojmenovává jako AI slop.
Jenže vibecoding a umělá inteligence mohou být snadno zneužity. A tak vznikají stovky aplikací, jejichž účelem je nahrát fotku určitého člověka a proměnit ji v nudistickou. Tedy bez oblečení. Což sice může být dobrá zábava, ale jen dokud lidé takové snímky nezačnou sdílet. A dokud je nezačnou vydávat za skutečné.
Mohlo by vás zajímat
Google i Apple proto s takovým typem deepfake aplikací bojují. Ale podle zjištění portálu Wired to dělají zcela nedostatečně. V Obchodě Play a App Store totiž nyní výzkumníci odhalili síť více než 400 aplikací a webových stránek určených pro svlékání lidí.
Původ aplikací v Číně
Nejzvláštnější na tom ale je, že tentokrát nejde o náhodné aplikace od nadšenců do AI. Výzkumníci podrobným bádáním vystopovali jejich původ, který ve většině případů vede do Číny, a to konkrétně ke společnosti KeLing Technology. Jedná se tak podle mě o zcela cílené vyvíjení těchto aplikací, které na první pohled působí neškodně, a díky tomu mohou projít bezpečnostními algoritmy Google Play i App Store.
Fotogalerie
A proč se to děje? Asi nikoho nepřekvapí, že pro peníze. Jen na začátku letošního roku bylo v App Store a Google Play objeveno 38 aplikací určených pro svlékání lidí, přičemž si je před jejich smazáním stáhlo neuvěřitelných 483 milionů uživatelů. A svým tvůrcům vydělaly 122 milionů dolarů.
Ve chvíli, kdy je takových aplikací k dispozici několik stovek, mají vývojáři o dost větší šanci, že alespoň některé v obchodech zůstanou nepovšimnuty. A budou dál generovat zisky. Propagují je navíc i na sociálních sítích společnosti Meta, takže lákají velký počet zvídavých uživatelů.
Google ani Apple vinu nepřiznaly
Jejich skutečný účel přitom nelze odhalit z názvu ani popisu. Obvykle se maskují za nástroje pro výuku jazyků, úpravu fotografií domácích mazlíčků nebo koučování při cvičení. Paradoxní navíc je, že někteří uživatelé skutečně vidí jen avizovaný bezpečný obsah. Ti, kteří ale kliknou na reklamu s explicitními obrázky, se obvykle dostanou za neviditelnou bránu, umožňující právě svlékat lidi.
Apple i Google po tomto zjištění začaly provádět obří čistku, ale nevěřím, že se jim povede aplikace zlikvidovat úplně. Algoritmy jsou totiž na jejich odhalení zjevně krátké. A obě společnosti navíc svorně tvrdí, že provinění neleží na nich – přinejmenším Apple otevřeně shodil vinu na autory aplikací: „Po schválení jejich vývojáři změnili webovou stránku, ze které aplikace načítá svůj obsah, a nahradili to, co jsme schválili, pornografickým obsahem.“ Podle mě jde ale o obří průšvih, k němuž by se Google i Apple měly postavit čelem.
