Autonómne zbraňové systémy vybavené AI predstavujú obrovské riziko pre celú spoločnosť

 

KĽÚČOVÉ ZISTENIA:

• Umelá inteligencia riadi výber cieľov v moderných konfliktoch.

• Softvér generuje zoznamy cieľov s vysokou chybovosťou.

• Vojenské drony menia dynamiku nasadzovania sily na bojisku.

Ozbrojené sily viacerých štátov aktívne využívajú algoritmy AI na zhromažďovanie spravodajských informácií a automatizované identifikovanie cieľov. Moderné systémy dokážu analyzovať dáta z komunikačných sietí a vyhodnocovať bezpečnostné riziká. V niektorých prípadoch sa umelá inteligencia priamo podieľa na generovaní zoznamov cieľov pre letecké útoky.

Tento prístup prináša závažné etické a praktické problémy, pretože softvér nie je bezchybný. Správy z bojísk poukazujú na prípady, kedy mali analytické programy minimálne 10 % chybovosť pri identifikácii. Napriek týmto nepresnostiam operátori často nevykonávajú dostatočnú ľudskú validáciu a bez výhrad dôverujú strojom.

Spoliehanie sa na automatizované systémy a vojenské drony vedie k odosobneniu prebiehajúcich konfliktov. Operátori bezpilotných lietadiel sa môžu nachádzať 10 tisíce km od reálneho cieľa, čo znižuje ich psychologickú bariéru pri použití smrtiacej sily. Výsledkom nedostatočnej kontroly a chybných dát z umelej inteligencie sú obete z radov civilného obyvateľstva.

Simulácie ukazujú, že jazykové modely a algoritmy trénované na strategické rozhodovanie majú tendenciu eskalovať napätie. Stroje nedisponujú ľudským úsudkom, a preto často uprednostňujú agresívne vojenské riešenia pred diplomatickými krokmi.

V extrémnych prípadoch modelových situácií umelá inteligencia odporúčala okamžité použitie jadrových zbraní. Zástupcovia technologických spoločností napriek kritike pokračujú v získavaní lukratívnych zmlúv pre obranné ministerstvá. Integrácia umelej inteligencie do riadiacich štruktúr sa stáva hlavnou prioritou pre mnohé vyspelé armády sveta.

Takéto zbrojenie vyvoláva obavy z vypuknutia nových pretekov v zbrojení, ktoré nebude možné regulovať. Aktivisti a medzinárodné organizácie volajú po prísnej regulácii a zákaze plne autonómnych zbraní. Verejná diskusia o limitoch vojenskej umelej inteligencie je pre udržanie globálnej bezpečnosti kľúčová.

PREČO JE TO DÔLEŽITÉ: Neregulovaný vývoj vojenskej umelej inteligencie predstavuje bezprostredné riziko pre globálnu bezpečnosť a ochranu ľudských práv.

Zdroj: commondreams.org foto: ChatGPT