Bojové drony dostali možnosť samostatne rozhodovať o výbere cieľu. Obeťami sa už stali aj civilisti

 

KĽÚČOVÉ ZISTENIA:

• Útok v meste Záporožie predstavuje prvý zdokumentovaný prípad usmrtenia civilistov autonómnym voľne letiacim zbraňovým systémom.

• Zabudovaný softvér prevzal plnú kontrolu nad finálnym výberom cieľa namiesto zasahujúceho ľudského operátora na vojenskej základni.

• Zvyšujúca sa technologická nezávislosť bojových zbraní vyvoláva silné obavy z absencie akejkoľvek právnej a taktiež morálnej zodpovednosti.

Umelá inteligencia sa v bojových konfliktoch presúva od asistencie k úplnej nezávislosti. Vyšetrovanie odhalilo detaily incidentu z júla 2026, pri ktorom letiaci dron zasiahol okolie čerpacej stanice v ukrajinskom meste Záporožie. Výbuch pripravil o život 3 civilistov vrátane 19-ročného študenta miestnej univerzity. Pôvodný letový plán zameraný na čerpaciu stanicu bol zmenený priamo strojom. Ten si počas letu autonómne vybral iný cieľ.

Ide o prvý zaznamenaný prípad usmrtenia ľudí strojom vybaveným autonómnym zameriavacím systémom. Odborníci analyzujúci vrak objavili zabudovaný počítač, zatiaľ čo ukrajinské úrady odhalili kód s inštrukciami na rozpoznávanie objektov. V predchádzajúcich generáciách podobných zbraní si ľudský operátor ponechával právomoc na konečný výber cieľa. Softvér doteraz riadil výlučne letovú trasu a manévrovanie v priestore.

Súčasná technológia odstraňuje človeka z poslednej fázy rozhodovacieho procesu, čo mení doterajšie armádne postupy. Podobné plne autonómne riešenia testuje proti vojenským zariadeniam aj ukrajinská strana. Pri týchto skúškach sa zatiaľ nezaznamenali žiadne civilné straty. Delegovanie palebných rozhodnutí na softvér však prináša legislatívne a morálne problémy.

Už koncom 70. rokov minulého storočia experti z oblasti informatiky varovali pred prenechaním kľúčových rozhodnutí strojom. Vedenie moderných konfliktov sa ocitá v nebezpečnej situácii, z ktorej podľa analytikov nemusí existovať cesty späť. Samostatne útočiaci stroj nemôže čeliť súdnemu procesu ani vysvetliť svoje pohnútky.

Rovnako tak nedokáže niesť trest za neúmyselnú smrť nevinných ľudí. Určenie viny je omnoho zložitejšie v momente, keď o samotnom zacielení rozhoduje algoritmus. Zavedenie záväzných pravidiel limitujúcich tieto zbrane sa stáva kriticky naliehavým globálnym problémom. Technológia sa totiž neustále zdokonaľuje a jej zastavenie môže byť v budúcnosti prakticky nemožné.

PREČO JE TO DÔLEŽITÉ: Odovzdanie rozhodovacej moci strojom na bojiskách otvára novú bezpečnostnú a morálnu krízu. Neexistuje pri nej spôsob vyvodenia zodpovednosti za softvérové chyby končiace smrťou.

Zdroj: digitaltrends.com foto: ChatGPT