OpenAI představila začátkem září svůj dosud nejpokročilejší model GPT 6 Astra, který je podle mnohých zásadní kyberbezpečnostní hrozbou. Umí totiž nejen prolamovat ochrany, ale dokáže skrývat své myšlenkové pochody. Velmi podobný model nazvaný Fable 5 přitom před pár měsíci spustil i Anthropic, který ho záhy raději stáhl. Všem je nicméně jasné, že AI modely už nejsou jen obyčejní chatboti, se kterými proberete své trápení nebo zdraví. Rychle se mění v něco, nad čím možná brzy ztratíme kontrolu.
Ačkoliv se o bezpečnosti AI a jejích rizicích pro lidstvo hodně diskutuje, tábor jejích příznivců se snaží všechny děsivé myšlenky zaplašit. Vše je prý dokonale pod kontrolou a současné modely jsou sice neuvěřitelně výkonné, ale pořád umí pracovat pouze v rámci svých nastavení – a ovládnutí lidstva od nich tedy nehrozí. Bývalý pracovník OpenAI a Anthropic, výzkumník Jacob Coxon, ale nyní zveřejnil významné varování, jímž se začal zabývat dokonce i americký Kongres.
Mohlo by vás zajímat
Coxon na síti X vyvěsil příspěvek, v němž ohlašuje, že po 3 letech intenzivní práce pro OpenAI a Anthropic končí. Což není nijak zajímavá zpráva, ostatně Coxona většina lidí vůbec nezná. Zásadní je ale druhá část jeho příspěvku. V ní totiž obě firmy obviňuje, že „ani jedna z těchto společností nejedná zodpovědně. Řítí se přímo k samovylepšující se superinteligenci a hazardují s našimi životy.“
Fotogalerie
Závod o AGI
To, z čeho jsou OpenAI a Anthropic obviněny, ale není žádným tajemstvím. Ani jedna se nijak netají tím, že jejím snem by bylo vyvinout AGI, tedy obecnou umělou inteligenci, která je schopna chápat, učit se a samostatně řešit různé problémy. Nejedná se přitom o současné AI agenty, které nabízí ve formě Spark třeba i Google. AGI je výrazně pokročilejší a nikdo z nás nemá tušení, kam až se dokáže vyvinout. A jestli se z ní náhodou záhy nemůže stát Skynet.
Úvahy Coxona, které dále zveřejnil pod svým původním příspěvkem, jsou velmi poutavé a nutí k zamyšlení nad současným překotným vývojem AI. Nicméně nejde o žádné převratné důkazy. Podle mého názoru je třeba jeho příspěvek brát s chladnou hlavou, protože stejně jako o reálné varování může jít o výkřik zhrzeného zaměstnance, který z neznámých důvodů skončil hned u dvou z nejvýznamnějších společností světa. A nikdo neví, co stálo za jeho odchodem a z jakého důvodů nyní Anthropic i OpenAI pomlouvá.
Brzký vstup na burzu
Za pravdu mu nicméně částečně dává i jeho bývalý kolega, pracovník Anthropic Evan Hubinger. Ten se pro portál Politico vyjádřil následovně: „Skutečně věříme, že AI může zabít všechny lidi. Já osobně odhaduji pravděpodobnost na více než deset procent během příštího desetiletí.“ A přisvědčuje mu i americký senátor Bernie Sanders. Přesto ale neexistují důkazy, že k takovému riziku dojde. Zatím jde naštěstí jen o varování skeptiků.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
OpenAI i Anthropic tyto domněnky rázně odmítají a tvrdí, že vývoj je zcela bezpečný. Ostatně, nic jiného si podle mě ani nemohou dovolit tvrdit, protože jim jde o velké peníze. OpenAI podala v červnu 2026 žádost o vstup na burzu (IPO) a ve stejné pozici je i Anthropic. Takže budoucí investory je třeba chlácholit.
Já osobně ale k vývoji AI také chovám jistou nedůvěru a z povzdálí sleduji, jak se vše překotně mění. AI agenti mě nechávají chladnou a s ChatGPT ani Gemini se rozhodně nebavím jako s kamarádem a nesděluji jim své osobní informace. Podobně jako Coxon se totiž obávám, že budoucnost AI může být temnější, než se nám její vývojáři snaží namluvit.
