SAMSUNG_092021 Advertisement SAMSUNG_092021 Advertisement SAMSUNG_092021 Advertisement

Tretia armádna revolúcia: Zbrane s umelou inteligenciou

Výskum a vývoj
6

Na pozadí 20. výročia 11. septembra si svet znova uvedomil, aký problém predstavujú asymetrické samovražedné teroristické útoky. No technológia zbraní sa za dve posledné desaťročia výrazne zmenila a zdá sa, že v nie tak vzdialenej budúcnosti bude možné z rovnice vďaka umelej inteligencii a robotike vylúčiť samovražedných atentátnikov alebo útočníkov. Autonómne zbrane sú po strelnom prachu a jadrových zbraniach treťou revolúciou v zbraňových technológiách. Vývoj od pozemných mín k riadeným strelám bol len predohrou ku skutočnej autonómii s podporou umelej inteligencie – k vyhľadaniu cieľa, rozhodovaniu o akcii a vyhladeniu iného ľudského života úplne bez účasti ľudí.

Príkladom dnes používanej autonómnej zbrane je izraelský dron Harpy, ktorý je naprogramovaný tak, aby letel do určitej oblasti, vyhľadal konkrétne ciele a potom ich zničil pomocou vysoko výbušnej bojovej hlavice prezývanej Fire and Forget (Vystreľ a zabudni). Oveľa provokatívnejší príklad však ilustruje dystopický krátky film Slaughterbots, rozprávajúci príbeh o dronoch vo veľkosti vtákov, ktoré dokážu aktívne vyhľadať konkrétnu osobu a z bezprostrednej blízkosti jej prestreliť lebku malým množstvom dynamitu. Tieto drony lietajú samostatne a sú primalé a obratné na to, aby sa dali ľahko chytiť, zastaviť alebo zničiť.

Pritom „slaughterbots“ nie sú číry výmysel. Jeden taký dron v roku 2018 takmer zabil prezidenta Venezuely a dnes by ho mohol zostrojiť skúsený nadšenec za menej ako 1000 dolárov. Všetky diely možno kúpiť online a všetky technológie s otvoreným zdrojovým kódom sú k dispozícii na stiahnutie. Ide o nezamýšľaný dôsledok toho, že umelá inteligencia a robotika sa stávajú dostupnejšími a lacnejšími. Sme svedkami toho, ako rýchlo sa umelá inteligencia vyvíja, a tento pokrok urýchľuje nástup autonómnych zbraní. Nielenže sa tieto vražedné roboty stanú inteligentnejšími, presnejšími, rýchlejšími a lacnejšími, ale naučia sa aj nové schopnosti, napríklad vytvárať roje s tímovou prácou a redundanciou, čím sa ich misie stanú prakticky nezastaviteľnými.

Roj 10 000 dronov, ktorý by mohol zlikvidovať polovicu mesta, by teoreticky stál len 10 miliónov dolárov. Pravda, autonómne zbrane nie sú bez výhod. Možno ušetriť životy vojakov, ak vojnu budú viesť stroje. Takisto môžu pomôcť vojakom zamerať sa len na protivníkov a vyhnúť sa neúmyselnému zabitiu spojeneckých síl, detí a civilistov. A dajú sa používať aj na obranu proti atentátnikom a útočníkom. Ibaže tienisté stránky tieto výhody výrazne prevyšujú. Najsilnejšia z nich je morálna zodpovednosť - odňatie ľudského života považujú za sporný čin takmer všetky etické a náboženské systémy a vyžadujú jeho silné odôvodnenie.

„Perspektíva strojov, ktoré majú možnosť rozhodovať o odňatí ľudského života, je v rozpore s morálkou,“ vyhlásil generálny tajomník Organizácie Spojených národov António Guterres. Autonómne zbrane znižujú náklady na zabíjanie. Obetovanie svojho života za nejakú vec, ako to robia samovražední atentátnici, je pre mnohých stále priveľká prekážka. No pri použití autonómnych strojov na zabíjanie by sa nemusel obetovať žiadny život. Ďalší dôležitý problém je jasné určenie zodpovednosti – vedieť, kto je zodpovedný za chybu. To sa dá určiť v prípade vojakov na bojisku. No keď je zabíjanie zverené autonómnemu zbraňovému systému, zodpovednosť je nejasná (podobne je to aj v prípade, ak autonómne vozidlo zrazí chodca).

Takáto nejednoznačnosť môže v konečnom dôsledku zbaviť agresorov zodpovednosti za nespravodlivosť alebo porušenie medzinárodného humanitárneho práva. A tým sa znižuje prah na vypuknutie vojny. Ďalšie súvisiace nebezpečenstvo je, že autonómne zbrane sa môžu zameriavať na jednotlivcov pomocou rozpoznávania tváre či chôdze a sledovania signálov z telefónu alebo zariadení z oblasti internetu vecí. To umožňuje nielen vraždu jednej osoby, ale aj genocídu akejkoľvek skupiny ľudí. Väčšia autonómia bez hlbokého pochopenia súvisiacich problémov ešte urýchli vojnu (a tým aj straty na životoch) a môže viesť ku katastrofálnej eskalácii vrátane jadrovej vojny.

SME konferencia_092021  

Umelá inteligencia je obmedzená nedostatkom zdravého úsudku a ľudskej schopnosti uvažovať v rôznych súvislostiach. Bez ohľadu na to, ako dobre je vytrénovaný autonómny zbraňový systém, nedokáže plne pochopiť dôsledky svojich činov. Presadzovanie vojenskej sily prostredníctvom autonómnych zbraní by mohlo byť aj menej nákladné, čím by sa znížila bariéra vstupu do takýchto konfliktov globálneho rozsahu. Menšie krajiny s výkonnými technológiami, ako napríklad Izrael, už vstúpili do pretekov s niektorými z najpokročilejších vojenských robotov, a to vrátane takých, ktoré majú veľkosť muchy.

Keďže je takmer isté, že protivníci budú vytvárať autonómne zbrane, ambiciózne krajiny sa budú cítiť nútené do súťaže. Kam nás tieto preteky v zbrojení zavedú? Podľa Stuarta Russella, profesora informatiky na Kalifornskej univerzite v Berkeley, schopnosti autonómnych zbraní budú obmedzené skôr fyzikálnymi zákonmi, napríklad limitmi doletu, rýchlosti a užitočného zaťaženia, než nedostatkami v systémoch umelej inteligencie, ktoré ich ovládajú. Dá sa očakávať, že platformy budú nasadené v miliónoch kusov a proti ich obratnosti a smrtiacej sile budú ľudia úplne bezbranní.

Jadrové zbrane predstavujú existenčnú hrozbu, ale boli kontrolované a dokonca pomohli obmedziť konvenčné vojny vďaka teórii odstrašovania. Pretože jadrová vojna zaručene vedie k vzájomnému zničeniu, každá krajina, ktorá prvá začne jadrový útok, pravdepodobne čelí odvete, a teda aj sebazničeniu. Autonómne zbrane sú však iné. Teória odstrašovania tu neplatí, pretože prekvapivý prvý útok môže byť nevystopovateľný. No útoky autonómnymi zbraňami môžu rýchlo vyvolať reakciu a eskalácia môže byť veľmi rýchla, čo môže viesť aj k jadrovej vojne. Pritom prvý útok môžu uskutočniť napríklad teroristi či iní neštátni aktéri. To zvyšuje mieru nebezpečnosti autonómnych zbraní.

Bolo navrhnutých niekoľko riešení, ako zabrániť takejto existenčnej katastrofe. Jedno z nich sa označuje ako „človek v slučke“. Ide o zabezpečenie toho, aby každé smrtiace rozhodnutie urobil človek. Ibaže výkonnosť autonómnych zbraní do veľkej miery vyplýva z rýchlosti a presnosti, ktoré sa dosahujú tým, že sa človek vyradí zo systému. Zapojenie človeka sa preto ťažko presadzuje. Navyše jeho ochranná funkcia je závislá od jeho morálneho charakteru a úsudku.

Druhé navrhované riešenie je zákaz vraždiacich robotov, ktorý podporil aj list podpísaný 3000 ľuďmi vrátane Elona Muska, zosnulého Stephena Hawkinga a tisícov odborníkov na umelú inteligenciu. Zákaz zrejme nebude jednoduchý, aj keď predchádzajúce snahy o zákaz oslepujúcich laserov a chemických a biologických zbraní boli účinné. Hlavná prekážka v súčasnosti je v tom, že Spojené štáty, Spojené kráľovstvo a Rusko sú proti zákazu autonómnych zbraní a tvrdia, že je na to ešte priskoro.

Tretí prístup je regulácia autonómnych zbraní. To bude tiež zložité, pretože je náročné zostaviť efektívne technické špecifikácie. Ako sa definuje autonómna zbraň? Ako možno kontrolovať porušenie? Z veľmi dlhodobého hľadiska by boli možné kreatívne riešenia. Napríklad krajiny sa môžu dohodnúť, že všetky budúce vojny sa budú viesť iba pomocou robotov (alebo, čo je ešte lepšie, iba v softvéri).

To môže zabrániť stratám na ľudských životoch. No ako to bude s klasickou vojnovou korisťou? A možno sa v budúcnosti budú viesť vojny s ľuďmi aj robotmi, ale robotom bude dovolené používať iba zbrane, ktoré zneškodnia robotických bojovníkov, ale budú neškodné pre ľudských vojakov. Autonómne zbrane sú už teraz jasným a aktuálnym nebezpečenstvom a budú čoraz inteligentnejšie, pohotovejšie, smrtonosnejšie a dostupnejšie. Ich rozmiestňovanie urýchli preteky v zbrojení, pričom bude chýbať prirodzený odstrašujúci účinok jadrových zbraní. 

Zdroj: theatlantic.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

6 komentárov

Človek sa zbláznil. reakcia na: Tretia armádna revolúcia: Zbrane s umelou inteligenciou

27.9.2021 07:09
Človek sa cez spoločnosť vracia sám k sebe ako bumerang, aby zničil sám seba. Človek ako jedinec, je tvor múdry, ale človek, ako základný prvok spoločnosti sa stáva najsprostejším tvorom na zemi a možno aj vo vesmíre. Bytie a idea stratili kontakt a pripravujú si tak samovražedný koniec.
Idea tak, ako peniaze či rakovina sa začali množiť na zdravom tele, zdravej realite. Dnes už nepotrebujú realitu, rozmnožujú sa sami na sebe. Realita sa stala pre nich brzdou, a tak robia všetko, preto, aby zničili realitu. Najprv neproduktívnu, potom vznikne prebytok produktívnej, tak aj tu, až nakoniec, aj poslednú realitu, svojho posledného nositeľa!!!
Reagovať

RE: Máš pravdu, bitkoin je toho dôkazom. Ľudia lejú peniaze do vymysleného krypto programu a tešia sa ako zbohatnú. reakcia na: Človek sa zbláznil.

27.9.2021 17:09
Máš pravdu, bitkoin je toho dôkazom. Ľudia lejú peniaze do vymysleného krypto programu a tešia sa ako zbohatnú, len zabudli, že v realite bitkon nemá žiadnu hodnotu, ale fakt že žiadnu. Takže v podstate majú ľudia holú riť a nahovárajú si, akí sú bohatí v bitkoine krypto mene, ktorá existuje len v počítači a reálne nemá hodnotu.
Reagovať

RE: RE: Máš pravdu, bitkoin je toho dôkazom. Ľudia lejú peniaze do vymysleného krypto programu a tešia sa ako zbohatnú. reakcia na: RE: Máš pravdu, bitkoin je toho dôkazom. Ľudia lejú peniaze do vymysleného krypto programu a tešia sa ako zbohatnú.

27.9.2021 20:09
ma taku hodnotu do akej miery su ini ochotny zan zaplatit. Myslis, ze zlato ma realnu hodnotu? Je to iba kov, ktory sam o sebe nema hodnotu. Co ho robi hodnotnym, je to, ze za kolko su ini ho ochotny kupit. Keby bo bolo ako maku, tak by bolo lacne ako zelezo. Takze zda sa, ze nemas ani paru o com hovoris... Statne peniaze maju hodnotu do akej miery je stat ochotny za rucit. To iste je to z bitcoinom. Ruci zan trh... Ked tomu nerozumies tak sa na to vyser...
Reagovať

RE: RE: RE: Len som počula, že už ani Elon Musk nechce za bitkoin platiť ;) Že na ňom prerobil :D reakcia na: RE: RE: Máš pravdu, bitkoin je toho dôkazom. Ľudia lejú peniaze do vymysleného krypto programu a tešia sa ako zbohatnú.

28.9.2021 18:09
Elon Musk vraj na bitkoine riadne prerobil. Nalial miliardu, zožal polovicu. Bitkoin padá a padá a nik už nechce liať peniaze do ničoho bez hodnoty ;D Veď to, že ručí zaň trh a ten nie je, zdá sa, sprostý. Z hovna bič neupletieš :)

Luboslav Lacko bludy reakcia na: Tretia armádna revolúcia: Zbrane s umelou inteligenciou

27.9.2021 00:09
Luboslav Lacko bludy
Reagovať

RE: Si napichnutý, len je to štátne tajomstvo, stačí jedné stisknutie enter a si mŕtvy, to ti nedošlo? reakcia na: Luboslav Lacko bludy

27.9.2021 17:09
Si napichnutý, len je to štátne tajomstvo, stačí jedné stisknutie enter a si mŕtvy, to ti nedošlo?

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať