Skynet na prahu reality
Séria filmov o Terminátorovi a sieti Skynet dlho strašila divákov len ako vzdialené sci-fi. Dnes sa však tento scenár v priamom prenose mení na mrazivú realitu. Svetové mocnosti vyvíjajú a už aj nasadzujú autonómne zbraňové drony schopné zabíjať bez akejkoľvek ľudskej asistencie. Hoci zatiaľ nečelíme jednej centralizovanej sieti, prepojenie armádnych zložiek do plne autonómnych systémov je len otázka času.
Prvý prípad autonómneho útoku robota na človeka sa odohral už v marci 2020 v Líbyi. Turecký dron vtedy podľa správy OSN samostatne vyhľadával a lovil ustupujúcich vojakov. Súčasný ukrajinský konflikt slúži ako živé laboratórium na vývoj a testovanie týchto smrtiacich technológií. Už v roku 2024 tam desať autonómnych zariadení v „režime Terminátor“ úplne samostatne eliminovalo skupinu vojakov a zničilo tank.
Nová generácia zbraní priniesla bojové drony, ktoré sa v záverečnej fáze útoku spoliehajú už iba na vlastné senzory. Technológie sa posúvajú k útokom v koordinovaných rojoch, ktoré si dokážu dynamicky prerozdeľovať úlohy a útočiť z rôznych smerov. Takýto masový úder dokáže v zlomku sekundy spoľahlivo zahltiť akúkoľvek tradičnú ľudskú obranu.
Rýchlosť spracovania taktických informácií si priam vynucuje automatizáciu celého velenia. Hlavným cieľom je prepojiť všetky senzory a zbrane naprieč armádou. Ľudský mozog by totiž také obrovské množstvo dát jednoducho nedokázal včas spracovať, analyzovať a rozhodnúť. AI tak čoraz hlbšie preniká aj do strategického plánovania a výberu cieľov. Takýto systém velenia už neslúži len na analýzu dát, ale sám navrhuje optimálnu zbraň, vyhodnocuje vzdialenosť, čas na zásah a potrebné zdroje.
Čínska armáda predpokladá, že autonómne systémy čoskoro prevezmú ústrednú úlohu a ľudia sa kompletne stiahnu z prvej línie. Pekingu pomáha stratégia vojensko-civilnej fúzie, vďaka ktorej okamžite transformuje komerčné technológie na smrtiace zbrane. Príkladom sú čínske „robotické vlky“ s technológiou LiDAR, ktoré dokážu v koordinovanej svorke autonómne čistiť nebezpečné mestské zóny.
Takýto exponenciálny vývoj nezadržateľne smeruje ku konfliktu vedenému algoritmami, kde je ľudské rozhodovanie minimalizované na potrebu bleskového potvrdenia návrhu AI. Reakčný čas človeka meraný v stovkách milisekúnd je oproti mikrosekundám strojovej inteligencie fatálna nevýhoda. Ak jedna z mocností zverí kompletné strategické velenie AI, jej reakčný čas prudko klesne a protivníci musia urobiť to isté. Vzniká tak reťazová reakcia, pri ktorej ľudstvo prenecháva kontrolu nad smrtiacimi zbraňami algoritmu. Technická chyba či skreslené dáta zo senzorov potom môžu kedykoľvek spustiť nepredvídateľný globálny konflikt.
Odhad ďalšieho vývoja v horizonte 5-10 rokov ponúka tri odlišné scenáre. Najpravdepodobnejší vývoj s pravdepodobnosťou 70 % je vznik vysoko integrovaných taktických systémov a čiastočne automatizovaného velenia. V tomto modeli budú lokálne konflikty nesmierne rýchle a vedené takmer výhradne rojmi dronov. Ľudia budú teoreticky potvrdzovať útoky, no ich rozhodovanie pod časovým tlakom sa obmedzí na slepé potvrdzovanie návrhu algoritmov. Tradičné velenie sa tak zmení na model pasívneho dohľadu.
Druhý scenár s pravdepodobnosťou 25 % je dosiahnutie úplnej automatizácie boja, kde ľudské velenie kompletne ustúpi do úzadia. Vojny budú prebiehať rýchlosťou mimo ľudských schopností chápania a akýkoľvek drobný incident na hranici vyvolá okamžitú automatickú odvetu.
Tretí scenár s pravdepodobnosťou 5 % hovorí o prijatí účinných medzinárodných zmlúv o zákaze autonómnych zbraní. Tieto diskusie na pôde OSN sú však pre potrebu konsenzu všetkých štátov pomalé, neefektívne, a preto nepravdepodobné.
Skutočná otázka preto neznie, či sa Skynet „prebudí“. Otázka znie, koľko rozhodnutí mu ľudia odovzdajú ešte predtým, než si všimnú, že bez neho už nedokážu úspešne viesť vojnu. Armády budú tvrdiť, že ľudský prvok stále zostáva v slučke. Kritické však bude, či má človek skutočne čas, informácie a právomoc odporúčanie AI odmietnuť.
A práve tam sa filmová dystopia mení na pravdepodobný scenár: Otázkou nie je, či budúci Skynet prevezme plnú kontrolu, ale či dokážeme takýto okamih prežiť.
