Zabudnite na filmového Terminátora. Éra zbraní riadených AI už začala

 

KĽÚČOVÉ ZISTENIA:

• Ruský dron s čipmi Nvidia a autonómnym zameriavaním zabil 6. júla v Záporoží troch civilistov.

• Americký systém na podporu rozhodovania sa podieľal na útoku v iránskom Minabe, kde zahynulo 120 detí.

• Obranný sektor investuje miliardy USD do autonómnych systémov napriek chýbajúcim medzinárodným zmluvám o ich regulácii.

Dňa 6. júla zaútočil ruský dron na čerpaciu stanicu v ukrajinskom meste Záporožie a pri následnej explózii zabil troch ľudí. Išlo o prvý zdokumentovaný prípad, keď civilistov usmrtil plne autonómny ruský dron riadený umelou inteligenciou. Vyšetrovatelia zistili, že stroj mal na palube procesory Nvidia a systém počítačového videnia vytrénovaný na identifikáciu a ničenie bojových jednotiek alebo budov. Hoci ľudskí operátori vyslali dron k čerpacej stanici, finálne rozhodnutie o tom, do čoho presne narazí, urobil stroj sám.

Vojenské využitie umelej inteligencie sa dnes delí na dve hlavné oblasti, pričom prvou sú systémy na podporu rozhodovania, ktoré analyzujú videá z dronov, odpočúvané hovory a satelitné snímky. Tento softvér navrhuje ciele ľudskému operátorovi a rovnaký typ systému sa podieľal na výbere cieľa pri americkom útoku na dievčenskú školu v iránskom meste Minab, kde zahynulo 120 detí. Druhou oblasťou je softvér priamo v zbraniach, ako sú ukrajinské stíhacie drony alebo ruské drony Shahed s kamerami. 

Do vojenskej automatizácie prúdia obrovské peniaze, keďže armády riešia pokles stavov personálu a hľadajú úspory aj pri kancelárskej analýze dát. Pentagón v marci zaradil zameriavací systém Maven od firmy Palantir medzi svoje oficiálne dlhodobé programy a firmy Anthropic, OpenAI, Google a xAI podpísali s Pentagónom kontrakty do výšky 200 miliónov USD. Spoločnosť Anduril Industries, ktorú vlastní zakladateľ Oculus VR a darca Donalda Trumpa Palmer Luckey, získala v máji 5 miliárd USD pri valuácii 61 miliárd USD.

Európska firma Helsing na čele so zakladateľom Spotify Danielom Ekom nasadila na Ukrajine útočné drony HX-2 a v júli uzavrela investičné kolo vo výške 1,8 miliardy USD pri valuácii 18 miliárd USD. Britský plán Defence Investment Plan z júna vyčlenil 5 miliárd GBP na autonómne systémy vrátane 220 miliónov GBP na projekt NYX, v ktorom vzniknú ozbrojené drony lietajúce po boku vrtuľníkov Apache. Napriek tomu sú armády humanoidných robotov v štýle Terminátora mimo technických aj finančných možností.

Podľa dlhoročného dodávateľa pre britské ministerstvo obrany by takýto stroj potreboval zásadné inovácie v hydraulike, výpočtovom výkone priamo na palube a zdroj energie veľkosti cigaretovej škatuľky. Špičková vojenská technika v NATO, USA a Číne je navyše príliš drahá na to, aby ju velitelia posielali do prvej línie, kde ju zničí lacný dron. Skutočným rizikom sú tak chybne navrhnuté lacné autonómne zbrane a ľudská lenivosť pri kontrole strojových odporúčaní.

Výskumník v oblasti obrannej umelej inteligencie upozorňuje, že algoritmus síce ľahko spozná tvar tanku, ale nedokáže spoľahlivo rozlíšiť zablateného ruského vojaka od zablateného civilistu či ukrajinského obrancu. Záväzná medzinárodná zmluva o autonómnych zbraniach zatiaľ neexistuje a novembrové rokovania OSN v Ženeve len rozhodnú, či sa vôbec začne vyjednávať. Bývalý britský minister ozbrojených síl Al Carns pritom v júni vyhlásil, že hoci človek musí byť súčasťou rozhodovacieho reťazca, armády musia mať v prípade potreby možnosť človeka z tohto procesu vyradiť.

PREČO JE TO DÔLEŽITÉ: Nekontrolovaná automatizácia lacných dronov a slepá dôvera v algoritmické zameriavanie cieľov zvyšujú riziko civilných obetí v moderných konfliktoch.

Zdroj: thenewworld.co.uk foto: ChatGPT