Jedno z hlavních bezpečnostních pravidel pro komunikaci s AI chatboty zní – nesdělovat své osobní údaje. Jenže co když chatbot usoudí, že jste nezletilí a bude po vás opak chtít dokázat prostřednictvím osobního dokladu? To se už brzy může stát u chatGPT. Společnost OpenAI, která za jedním z nejpopulárnějších chatbotů stojí, totiž vyvíjí automatizovaný systém detekce věku.
Důvodem je pravděpodobně to, že jeden mladík z USA po dlouhých a důvěrných hovorech s AI spáchal sebevraždu. Jeho rodiče nyní žalují OpenAI a ukazuje se, že přílišná náklonnost k všechápající a laskavé umělé inteligenci v podobě chatbota může být zejména pro děti a náctileté hodně riziková. Právě automatizovaný systém detekce věku by měl děti lépe chránit a rodičům dopřát více klidu v duši.
Generální ředitel OpenAI Sam Altman k tomu dokonce vydal blogový příspěvek nazvaný Teen safety, freedom, and privacy (Bezpečnost, svoboda a soukromí teenagerů) a zmiňuje v něm, že chatGPT je určen pro lidi od 13 let výše. Jenže k jeho využívání se stačí přihlásit s pomocí e-mailu, k žádnému ověřování věku nedochází. A AI nástroje jsou čím dál oblíbenější i mezi dětmi, které si jimi vypomáhají třeba s domácími úkoly. Takže je zřejmé, že tato věková hranice (podobně jako třeba u sociálních sítí) není dodržována.
Fotogalerie
Systém pro odhadování věku by měl stáří uživatele otipovat podle toho, jak chatGPT používá. Pokud usoudí, že jde o dítě, přepne do varianty pro uživatele do 18 let. V některých zemích, kde to zákony dovolí, ale může požadovat prokázání věku s pomocí osobního dokladu – tedy třeba občanského průkazu nebo řidičáku. A to lidem, kteří budou neoprávněně identifikováni jako mladiství, vůbec nemusí být po chuti.
Nicméně, s těmito opatřeními budeme muset do budoucna chtě nechtě počítat i u dalších služeb. Vlády jednotlivých států se snaží víc a víc tlačit na provozovatele sociálních sítí i na Google, aby lépe chránili děti a řádně ověřovali věk. Nový zákon to nyní bude vyžadovat v Kalifornii, podobná opatření platí třeba i v Utahu. Za zmínku stojí, že pokud mladistvý bude v chatování mít sebevražedné myšlenky, chatGPT se pokusí kontaktovat jeho rodiče.
