Umělá inteligence už neslouží jen k psaní textů nebo generování obrázků. Vědci z Arc Institute v Palo Altu a Stanfordovy univerzity naučili AI analyzovat DNA a navrhovat zcela nové viry. Ačkoliv současný experiment cílil výhradně na bakterie, podle odborníků na biobezpečnost tím byla překročena hranice, která může otevřít dveře k vývoji biozbraní.
Výzkumný tým, jehož studii publikoval prestižní časopis Science, využil dva takzvané genomové jazykové modely s označením Evo 1 a Evo 2. Ty fungují na podobném principu jako známé LLM modely (např. ChatGPT nebo Claude), namísto lidského jazyka však zpracovávají genetický kód.
Trénink na známých virech: Modely byly nejprve vycvičeny na 15 000 genetických kódech z čeledi virů Phi X-174, které napadají střevní bakterie E. coli.
- Generování kandidátů: Genomový model Evo na základě těchto dat navrhl více než 700 000 možných nových virových sekvencí.
- Výběr a syntéza: Vědci z tohoto obrovského množství vybrali 285 kandidátů, které synteticky vyrobili a vložili do živých bakterií.
- Konečný výsledek: Z 285 laboratorně vytvořených pokusů bylo 16 virů plně funkčních a schopných infekce.
- Důležitá pojistka: Výzkumníci do modelu explicitně zadali instrukce, aby vynechal jakékoliv sekvence, které by mohly infikovat člověka nebo zvířata.
Příslib pro medicínu, nebo zbraň hromadného ničení?
Stejně jako u jaderné energie či genetického editoru CRISPR závisí dopad nové technologie na tom, v čí rukách se ocitne. Uměle navržené viry (bakteriofágy) by mohly pomoci v boji proti bakteriím rezistentním vůči antibiotikům, eliminovat jiné patogeny nebo pomáhat při syntéze potravin potlačováním nežádoucích bakterií.
Pokud by se genomový model dostal do rukou teroristických skupin či nebezpečných aktérů, mohl by sloužit k vytvoření extrémně infekčních a smrtících patogenů. Na nebezpečí upozorňují i přední experti na biobezpečnost. Dr. Thomas Inglesby a Dr. Moritz Hanke z Johns Hopkins Center for Health Security varují, že výzkum ukázal schopnost AI navrhovat biologické zbraně. Dr. Hanke v rozhovoru pro New York Times poznamenal, že by v budoucnu mohlo stačit zadat příkaz typu: „Vytvoř mi kmen chřipky upravený tak, aby byl lépe přenosný a smrtelnější.“
Mohlo by vás zajímat
Proč je situace nebezpečnější než v minulosti
Ačkoliv existuje mezinárodní moratorium zakazující vývoj a hromadění biologických zbraní, příchod pokročilé AI mění pravidla hry. V minulosti vyžadoval vývoj biologických hrozeb odborný tým vědců, nákladné laboratorní vybavení a dlouhé měsíce práce. Dnes mohou pokročilé genomové modely zpřístupnit genetické inženýrství i jednotlivcům bez hlubších znalostí biologie.
Podle odborníků na biobezpečnost je proto nezbytné zavést přísné regulace výzkumu AI v oblasti biologie a zákonem zakázat používání umělé inteligence k vytváření patogenů, které napadají lidi, zvířata nebo zemědělské plodiny.
