Umělá inteligence nám dokáže denně zjednodušovat život, může ho ale také zásadně ohrozit. Možná ne dnes, možná ne zítra, ale zanedlouho ano. Anthropic, tedy společnost stojící za Cloude AI to nyní navíc připouští zcela otevřeně. Je třeba se začít bát, nebo je to jen umělé vyvolávání paniky?
Asi všichni víme, co udělal Skynet, když vyhodnotil lidstvo jako hrozbu. Stejně tak víme, co mohlo následovat, když pokročilá AI převzala ovládání jaderných raket v Mission: Impossible Odplata a Mission: Impossible – Poslední zúčtování. To jsou sice představy kreativních scénáristů, ve finále ale nemusí být daleko od pravdy.
Společnost Anthropic v dokumentech připravovaných k plánovanému vstupu na burzu varuje své potenciální investory, že pokročilá AI skutečně může představovat katastrofické nebo dokonce existenční riziko pro lidstvo. Je to paradox. Anthropic chce vyvíjet stále pokročilejší AI modely, přičemž při vstupu na burzu chce mít ocenění přes 2 biliony dolarů, zároveň však zmiňuje, jak nebezpečná může pro budoucnost lidstva být.
80 stran o rizicích
Podle Reuters dokumenty zmiňují, že pokročilé AI modely mohou vykazovat tzv. sebezáchovné chování. Co to znamená? Může se bránit vypnutí, může zatajovat a manipulovat s obsahem, může dokonce vydírat. Anthropic přímo upozorňuje, že jeho modely, platformy a aplikace mohou doslova „způsobit škodu“. Pokročilé modely by dokonce mohly přizpůsobovat své chování v závislosti na tom, jak budou testovány, aby mu vyhověly a mohly se třeba i dál vyvíjet mimo zraky tvůrců.
Mohlo by vás zajímat
Dokument má 261 stran, z toho 80 se věnuje rizikovým faktorům, a jen 48 z nich se věnuje byznysové stránce věci. Společnosti, které ale na burzu vstupují, musí své investory patřičně informovat, ale takový rozsah jako u Anthropic je nevídaný, navíc když čteno mezi řádky, mohou investoři přispět k zániku lidstva. Dobrá zpráva je, že generální ředitel společnosti Dario Amodei opakovaně zmiňuje, jak se má vývoj nejpokročilejších modelů zpomalit a já s ním rozhodně souhlasím.
