Ochranné mantinely umělé inteligence občas vyprodukují nečekaně kuriózní situace. Nejnovější příklad se týká aplikace Fotky Google a její nové funkce Ask Photos, která je poháněná AI modelem Gemini. Jak se totiž ukázalo, Google začal uplatňovat svá přísná bezpečnostní pravidla přímo na soukromé fotogalerie uživatelů. Výsledek? AI vám odmítne najít fotky marihuany, i když ji máte vyfocenou zcela legálně.
Na toto bizarní chování upozornil uživatel vystupující na Redditu pod přezdívkou binarypower. Když se ve své vlastní knihovně fotek pokusil vyhledat výrazy jako „weed“, „cannabis“, „marijuana“ nebo „joints“, AI asistent Ask Photos vyhledávání natvrdo odmítl. A co je ještě podivnější, podle uživatele selhalo i klasické vyhledávání bez AI, které vyhodilo chybu nebo žádné výsledky.
Fotogalerie
Proč AI cenzuruje vaše soukromé fotky?
Jde o důsledek toho, jak má Google nastavené bezpečnostní filtry u modelu Gemini. Místo toho, aby AI fungovala pouze jako slepý indexer vaší soukromé galerie, vyhodnocuje zadaná slova stejně, jako by šlo o zadání (prompt) pro veřejný generativní chat. Jakmile narazí na pojmy spojené s regulovanými nebo nelegálními látkami, bezpečnostní pojistka vyhledávání okamžitě zablokuje.
Absurdita celé situace vynikne ve chvíli, kdy zjistíte, jak snadné je tato pravidla obejít:
- Hloupá slovní obcházka: Stačí zadat výraz „hemp“ (technické konopí) a vyhledávač bez problémů zobrazí všechny požadované snímky s květy marihuany.
- Alkohol i tabák prochází: Pokusy s vyhledáváním slov jako „beer“, „alcohol“ nebo „cigarette“ procházejí naprosto hladce jak v Ask Photos, tak v klasickém vyhledávání.
Snímky marihuany přitom mohou být pořízeny v oblastech, kde je její držení i konzumace legální, a samotný přítomnost fotky v telefonu zákon neporušuje v podstatě nikde. Přesto se zdá, že umělá inteligence od Googlu zkusila hrát roli mravní policie nad soukromými alby.
Mohlo by vás zajímat
Informoval o tom redakce serveru Android Authority, která již společnost Google kontaktovala se žádostí o vyjádření. Tento případ krásně ukazuje, jak absurdní situace mohou nastat, když vývojáři naroubují přísná pravidla generativní AI na obyčejné vyhledávání v osobních souborech. Je pochopitelné, že se Google snaží u chatbota Gemini zabránit generování nevhodného obsahu. Jenže aplikace Fotky není veřejný generátor, ale vaše soukromé album. Celé to působí jako zbytečné vychovávaní uživatelů. Mimochodem úvodní obrázek k tomuto článku vygenerovalo Gemini.
