Steve Wozniak, Elon Musk a více než 1 000 dalších lidí zvučných jmen podepsalo otevřený dopis, v němž žádají okamžité šestiměsíční zastavení technologií umělé inteligence výkonnějších než ChatGPT-4.
Letošní rok je rokem, kdy se umělá inteligence jako ChatGPT a Google Bard stala hlavním trendem. Přestože všechny společnosti zabývající se umělou inteligencí označují své produkty za experimenty nebo vlastně určité beta verze, jejich funkce jsou integrovány do mnoha služeb. Future of Life Institute (Institut budoucnosti života) nyní požaduje „veřejnou a ověřitelnou“ pauzu, která zahrnuje „všechny klíčové aktéry“ v této oblasti. Pokud se takovou pauzu nepodaří rychle zavést, měly by zasáhnout vlády a zavést moratorium.
Cílem Future of Life Institute je „směřovat transformační technologie k prospěchu života a odvrátit je od extrémních rizik velkého rozsahu.“ Zmíněný dopis o 600 slovech, který je určen všem vývojářům umělé inteligence, uvádí, že je třeba dát si pauzu, protože v posledních měsících se laboratoře umělé inteligence vymkly kontrole a začaly vyvíjet a nasazovat stále výkonnější digitální mozky, které nikdo, a to ani jejich tvůrci, nedokáže pochopit, předvídat ani spolehlivě kontrolovat.
Mohlo by vás zajímat
„Laboratoře umělé inteligence a nezávislí odborníci by měli tuto pauzu využít ke společnému vypracování a zavedení souboru sdílených bezpečnostních protokolů pro návrh a vývoj pokročilé umělé inteligence, které by byly přísně kontrolovány a dozorovány nezávislými externími odborníky,“ pokračuje zpráva. „Tyto protokoly by měly zajistit, že systémy, které se jimi řídí, jsou nade vší pochybnost bezpečné.“
To ovšem neznamená zastavení vývoje umělé inteligence obecně, má jít pouze o ustoupení od nebezpečného závodu za stále většími nepředvídatelnými modely typu black-box s emergentními schopnostmi. Dopis podepsalo 1 123 osobností, jako například:
- Elon Musk, generální ředitel SpaceX, Tesla a Twitter
- Steve Wozniak, spoluzakladatel společnosti Apple
- Jaan Tallinn, spoluzakladatel Skype
- Evan Sharp, spoluzakladatel Pinterestu
