Meta začíná řešit jeden z největších problémů současné generativní umělé inteligence – jak poznat, co vytvořil člověk a co stroj. Společnost představila nový webový nástroj, který dokáže odhalit obrázky vytvořené nebo upravené pomocí jejích nejnovějších AI modelů. Funkce má pomoci uživatelům lépe rozpoznat původ digitálního obsahu, zatím ale funguje pouze v omezeném rozsahu.
Nový detekční nástroj od společnosti Meta pracuje s technologií nazvanou Content Seal. Jde o neviditelný digitální podpis, který se vkládá do AI obrázků vytvořených pomocí modelu Muse Image. Podle společnosti by měl zůstat zachovaný i po běžných úpravách, jako je oříznutí, změna velikosti, komprese nebo vytvoření screenshotu.
Mohlo by vás zajímat
Neviditelný podpis odhalí AI obsah
Na rozdíl od některých starších řešení Meta nepoužívá viditelné označení přímo v obrázku. Uživatel tak neuvidí žádné logo ani upozornění v rohu fotografie. Informace o původu souboru zůstává skrytá a lze ji ověřit pouze pomocí speciálního nástroje.
Tento přístup se přitom stává stále důležitějším. S rostoucí kvalitou generátorů obrázků je totiž čím dál těžší rozeznat realistickou fotografii od uměle vytvořeného obsahu. Digitální značky mají pomoci nejen běžným uživatelům, ale také platformám, médiím nebo výzkumníkům, kteří potřebují pracovat s ověřenými informacemi.
Funguje dobře, ale s omezeními
První testy ukazují, že nástroj skutečně dokáže najít obrázky vytvořené pomocí Meta AI, a to i v případě upravených verzí nebo screenshotů. Detekce však není univerzálním řešením pro všechny obrázky generované umělou inteligencí.
Aktuálně funguje pouze pro obsah vytvořený nebo upravený modelem Muse Image. Starší generace AI nástrojů od Mety rozpoznat nedokáže. Stejně tak si zatím neporadí s obrázky vytvořenými jinými systémy, například pomocí technologií využívajících standardy SynthID nebo C2PA Content Credentials.
Meta plánuje technologii rozšířit také na video. Společnost současně připravuje vlastní model Muse Video, který má přinést generování pohyblivého obrazu. Právě video bude v následujících letech jednou z největších výzev, protože realistické AI klipy mohou být výrazně obtížnější na ověřování než statické obrázky.
Fotogalerie
Nutnost označování AI obsahu
Nová funkce přichází v době, kdy velké technologické firmy čelí rostoucímu tlaku na transparentnost kolem generativní AI. Uživatelé často nevědí, zda sledují skutečnou fotografii, nebo výsledek generátoru, což může komplikovat šíření dezinformací i manipulovaných materiálů.
Meta v minulosti čelila kritice kvůli nejednotnému označování obsahu vytvořeného umělou inteligencí ve svých službách. Nový systém Content Seal je proto krokem směrem k větší odpovědnosti, i když zatím řeší pouze část problému.
Omezení mohou brzdit praktické využití
Jedním z překvapivých omezení je skutečnost, že detekční nástroj má nastavené limity používání. Po několika kontrolách může uživatel narazit na denní limit počtu ověření. Pro běžné domácí použití to nemusí být zásadní problém, ale například pro novináře, moderátory obsahu nebo výzkumníky může jít o nepříjemnou překážku.
Funkce navíc zatím není přímou součástí aplikace Meta AI. Uživatelé ji musí využít přes samostatný webový nástroj, zatímco samotný asistent Meta AI podle současného stavu neumí automaticky určit původ obrázku.
Meta přesto udělala první krok k lepšímu označování AI tvorby, ale cesta k univerzálnímu systému rozpoznávání bude ještě dlouhá. V době, kdy se hranice mezi fotografií a generovaným obrazem rychle stírá, bude právě schopnost ověřit původ obsahu jednou z klíčových funkcí digitálního světa.
