Vytvorenie biologickej zbrane je dnes pomocou AI desivo jednoduché
Najvyšší predstavitelia technologického priemyslu a vládni úradníci bijú na poplach, pričom ich varovania znejú skôr ako zo scenára katastrofického filmu než z tlačovej konferencie. Tieto obavy nie sú len teoretické, čo potvrdil aj Dario Amodei, generálny riaditeľ jedného z popredných laboratórií pre výskum umelej inteligencie, spoločnosti Anthropic.
Zdroj Foto: DOI: 10.1126/science.adu8578
Podľa neho existuje „značné riziko“, že už v priebehu dvoch až troch rokov by nástroje umelej inteligencie mohli dramaticky rozšíriť okruh aktérov schopných vykonať rozsiahly biologický útok. Jadrom problému je takzvaná „dvojaká použiteľnosť“ technológie, ktorá je vyvíjaná na ušľachtilé ciele, ako je objavovanie nových liekov.
Vedci uskutočnili šokujúci experiment, v ktorom vzali umelú inteligenciu navrhnutú na hľadanie netoxických molekúl a jednoducho „prepli“ jej cieľ – namiesto minimalizácie toxicity mala toxicitu maximalizovať. Výsledok bol mrazivý a prišiel neuveriteľne rýchlo.
Za menej ako šesť hodín, s použitím bežne dostupných dát a počítača z roku 2015, dokázal systém vygenerovať 40 000 nových potenciálnych chemických zbraní. Medzi nimi bol nielen neslávne známy nervový plyn VX, ale aj úplne nové zlúčeniny, u ktorých umelá inteligencia predpovedala ešte vyššiu účinnosť.
Kedysi bola najväčšou prekážkou pre vývoj takýchto zbraní extrémna zložitosť biológie a chémie, ktorá obmedzovala túto schopnosť len na niekoľko štátov s obrovskými zdrojmi. Umelá inteligencia túto bariéru rozbila na prach, čím v podstate digitalizovala a sprístupnila vedomosti, ktoré boli predtým doménou úzkej skupiny expertov.
Tento fenomén, nazývaný aj „demokratizácia teroru“, sa netýka len špecializovaných nástrojov. Experiment uskutočnený na prestížnom Massachusettskom technologickom inštitúte (MIT) ukázal, že aj bežne dostupné veľké jazykové modely, podobné ChatGPT, môžu predstavovať hrozbu.
Študenti bez akéhokoľvek technického zázemia dokázali v priebehu jedinej hodiny pomocou chatbotov identifikovať štyri potenciálne pandemické patogény. Nielen to, ale získali aj podrobné inštrukcie, ako ich vytvoriť zo syntetickej DNA, a dokonca aj zoznam spoločností, ktoré s najväčšou pravdepodobnosťou nebudú dôsledne kontrolovať ich objednávky.
Tento nový proces ohrozenia je komplexný, pretože umelá inteligencia zefektívňuje celý postup pre potenciálneho bioteroristu. Pôsobí ako konzultant pri výbere patogénu, ako laboratórny asistent pri jeho modifikácii a ako nákupca pri hľadaní zdrojov na jeho výrobu, pričom fyzickú prácu môžu vykonať takzvané cloudové laboratóriá na diaľku.
Naše súčasné obranné mechanizmy sú proti týmto novým hrozbám takmer bezmocné. Potvrdil to výskum spoločnosti Microsoft, kde vedci použili voľne dostupné nástroje umelej inteligencie na návrh proteínov, aby vytvorili tisíce syntetických verzií známeho toxínu.
Umelá inteligencia dokázala zmeniť sekvenciu aminokyselín toxínu tak, aby si zachoval svoju smrtiacu funkciu, ale zároveň sa jeho genetický kód líšil od originálu. Kľúčovým zistením bolo, že väčšina týchto prepracovaných toxínov by prešla cez súčasné skríningové systémy, ktoré používajú spoločnosti na syntézu DNA. To odhalilo obrovskú slepú škvrnu v našej globálnej biologickej bezpečnosti.
Táto situácia vytvára neustále preteky v zbrojení, kde obrancovia musia používať umelú inteligenciu na predpovedanie toho, čo by útočníci mohli vytvoriť. Najšokujúcejší je však kontrast medzi rýchlosťou tejto hrozby a pomalosťou našej reakcie.
Hlavný medzinárodný orgán pre prevenciu biologických zbraní, Dohovor o biologických zbraniach (BWC), je katastrofálne podfinancovaný. Jeho podporná jednotka má len troch stálych zamestnancov a rozpočet menší, ako má priemerná reštaurácia McDonald's. Tento fakt je desivým symbolom zlyhania politickej vôle čeliť hrozbe, ktorú samotní jej tvorcovia označujú za existenčnú.
Zdroj: techxplore.com.
Zdroj Foto: depositphotos.com.
Zobrazit Galériu
