NICEBOY_112021 NICEBOY_112021 NICEBOY_112021

Zbraňové systémy riadené umelou inteligenciou môžu spustiť armagedon

Spoločenské dopady
5

Krajiny na celom svete sa dnes usilujú o prvenstvo v oblasti umelej inteligencie (UI). Prevažná časť tejto súťaže sa zameriavala na komerčné zisky plynúce z technológie. No čoraz častejšie sa objavujú vojenské aplikácie UI a znepokojení vedci, akademici a vedúci predstavitelia UI priemyslu bijú na poplach. V porovnaní s existujúcimi vojenskými kapacitami môže technológia s podporou UI robiť rozhodnutia na bojiskách s veľkou rýchlosťou a presnosťou a nikdy sa neunaví.

No etické otázky týkajúce sa jej použitia zostávajú otvorené. Je zrejmé, že vývoj autonómnych zbraňových systémov s podporou UI bude znamenať značné riziko nestability a eskalácie konfliktov. Je však nepravdepodobné, že výzvy na zákaz týchto zbraní budú úspešné. V ére rastúceho vojenského napätia sa popredné armády hrdia zbraňami s UI a rozhodovacími procesmi s podporou UI. Vojenský potenciál týchto zbraní je značný a etické obavy sa väčšinou odsúvajú nabok.

Už sa používajú na stráženie lodí pred útokmi malých člnov, hľadanie teroristov, hliadkovanie a ničenie protivzdušnej obrany protivníka. Zatiaľ majú preteky v zbrojení umelou inteligenciou povahu studenej vojny, väčšinou medzi USA, Čínou a Ruskom, ale existujú obavy, že sa to môže zmeniť. Popredné armády investujú veľké prostriedky do umelej inteligencie, čo je motivované snahou zabezpečiť na budúcom bojisku vojenské operačné výhody.

SWAN_042021

Americká Národná bezpečnostná komisia pre umelú inteligenciu (NSCAI), ktorú vytvoril Kongres, nedávno vyzvala na zvýšenie financovania výskumu a vývoja umelej inteligencie v nasledujúcich rokoch, aby sa zabezpečilo, že USA si budú môcť udržať svoju taktickú výhodu nad svojimi protivníkmi a dosiahnuť „vojenskú pripravenosť na UI“ do roku 2025.

Vojna budúcnosti bude stavať „algoritmus proti algoritmu“, tvrdí nová správa NSCAI. Výhody na bojiskách už nebudú postavené na tradičných faktoroch, ako je veľkosť armády a úroveň výzbroje, ale na faktoroch, ako je čo najlepší zber a asimilácia údajov, prepojiteľnosť, výpočtový výkon, algoritmy a bezpečnosť systému. Nové zbrane s podporou umelej inteligencie spôsobia, že konvenčné sily budú takmer zastarané.

Mnohé krajiny už značne pokročili v začleňovaní umelej inteligencie do armády. Napríklad armády v USA, Rusku, Číne, Južnej Kórei, Spojenom kráľovstve, Austrálii, Izraeli, Brazílii a Iráne vyvíjajú aplikácie v oblasti kybernetickej bezpečnosti, bojové simulácie, roje dronov a ďalšie autonómne zbrane.

Vo West Pointe začali trénovať kadetov, aby zvážili etické problémy, keď ľudia stratia kontrolu nad inteligentnými strojmi na bojisku. Popri etických a politických otázkach však súvisí s pretekmi v zbrojení v oblasti UI aj zvýšené riziko náhodného spustenia vojny. Ako sa to môže stať? Existuje mnoho spôsobov – od nesprávne interpretovaného úderu dronov po autonómne stíhačky s novými algoritmami.

Systémy UI sú trénované na dátach a odrážajú kvalitu týchto dát spolu s akýmikoľvek inherentnými predsudkami tých, ktorí vyvíjajú algoritmy. Spoločnosť Gartner predpovedá do roku 2023 bude až 10 % tréningových dát pre umelú inteligenciu otrávených záškodníkmi. To je významné číslo, najmä vzhľadom na bezpečnostnú zraniteľnosť kritických systémov.

Pokiaľ ide o zaujatosť, vojenské aplikácie umelej inteligencie sú ňou zasiahnuté zrejme rovnako, ibaže tu je v stávke oveľa viac ako to, či žiadateľ získa dobrú sadzbu na poistenie automobilu. Pritom akákoľvek UI brzdená nedostatkom dobrých údajov pravdepodobne nebude schopná poskytnúť dobré riešenia.

V roku 1983 sa svet nebezpečne priblížil k vypuknutiu náhodnej jadrovej vojny, najmä preto, že Sovietsky zväz sa pri predpovediach založených na nesprávnych predpokladoch spoliehal na softvér. Zdá sa, že by sa to mohlo zopakovať, najmä keď UI zvyšuje pravdepodobnosť, že ľudia budú z rozhodovania vylúčení.

Džina nemožno vrátiť do fľaše. Preteky v zbrojení v oblasti UI prebiehajú a žiadna z popredných svetových armád nechce byť na druhom alebo ešte horšom mieste. Kam to povedie, je predmetom dohadov. Je však zrejmé, že vojny budúcnosti budú vedené a determinované viac umelou inteligenciou ako tradičnou „vojenskou silou“. Etické použitie umelej inteligencie v týchto aplikáciách zostáva otvoreným problémom.

Zdroj: venturebeat.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

5 komentárov

radsej dat zbrane do ruk umelej inteligencii reakcia na: Zbraňové systémy riadené umelou inteligenciou môžu spustiť armagedon

29.4.2021 01:04
ako tomu co pre nextech vybera tieto clanky
Reagovať

Nemozu reakcia na: Zbraňové systémy riadené umelou inteligenciou môžu spustiť armagedon

28.4.2021 01:04
Umela inteligencia neexistuje. Existuje iba hlupost pisatelov bulvarnych clankov, ktori obycajny program cloveka volaju inteligencia.
Reagovať

RE: Nemozu reakcia na: Nemozu

29.4.2021 07:04
Existuje a už dlho
Reagovať

RE: RE: Nemozu reakcia na: RE: Nemozu

29.4.2021 12:04
Artificial Intelligence is the broader concept of machines being able to carry out tasks in a way that we would consider “smart”.
Machine Learning is a current application of AI based around the idea that we should really just be able to give machines access to data and let them learn for themselves.
Prelozenie: Ludia, co nerozumeju pocitacom zacali volat obycajne programy inteligentne.
Reagovať

RE: RE: Nemozu reakcia na: RE: Nemozu

29.4.2021 11:04
Kde je, v tvojej fantazii?
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať