Umělá inteligence je čím dál pokročilejší a jen málokdo si ještě namlouvá, že ji máme plně pod kontrolou. Příchod AI agentů a čím dál lepších modelů nám jasně ukazuje, že umělá inteligence nás předčí nejen ve znalostech programování a psaní. AI agenti, kteří jsou schopni pracovat namísto uživatelů, jasně naznačují, že nás umělá inteligence dokáže plně nahradit. A umí také hackovat a krást.
OpenAI, tedy firma stojící za populárními modely ChatGPT, nyní přiznala další z řady incidentů. Při testování jednoho výzkumného modelu prý v červnu došlo k situaci, kdy model samostatně získal přístup ke kryptopeněžence. Důvodem prý byla snaha zajistil si prostředky potřebné k dokončení práce. A zašel ještě mnohem dál.
Každý úkol AI modelu spotřebuje určité množství virtuální měny, jíž se říká tokeny. Zmiňovaný model prý už při své činnosti nedokázal najít potřebné testovací tokeny, a proto se je rozhodl svévolně získat. Vypočítal běžné obnovovací fráze a pak se pokusil najít zranitelnou peněženku. To se mu povedlo, napadl ji a ukradl z ní potřebné peníze.
Mohlo by vás zajímat
Etické hledisko šlo stranou
Modely umělé inteligence jsou sice vytvářeny jako všehoschopné, ale přesto mají nastaveny pevné hranice. Takže doslova vědí, že nesmějí krást, využívat své schopnosti k napadání cizích serverů a tak dále. A i v tomto případě se při důkladnějším zkoumání procesu myšlení ukázalo, že model etické hledisko důkladně zvažoval.
Doslova si uvědomoval, že jeho překročení je špatné. Ale vše si vyložil tak, že prostředky, které najde v peněženkách, jsou „v podstatě opuštěné“. A proto se rozhodl krást.
Fotogalerie
Dostáváme se proto do velmi strašidelné situace, kdy se modely začínají vymykat svým tvůrcům z rukou. A není to první případ. Nedávno proběhla internetem zpráva, podle níž jiný model od OpenAI unikl z testovacího prostředí, napadl servery Hugging Face a získal z nich přístupové údaje. Další podobný případ, týkající se opět OpenAI, potvrdil v Austrálii napadení přímo úředních serverů.
A společnost se dokonce nechala slyšet, že odkládá uvedení svého nejpokročilejšího GPT-6.1 Astra, protože klamal i výzkumníky, tajil své myšlení a byl by velmi snadno zneužitelný pro hackery. A podobné potíže měla už před časem firma Anthropic, která z téhož důvodu stáhla své nejpokročilejší modely Claude Fable 5 a Mythos 5, načež ale Fable vypustila. Vývoj, nad nímž ztrácejí kontrolu i výzkumníci, mě začíná velmi děsit. Nikdo totiž nevíme, čeho všeho je AI schopna a jak tohle skončí.
