Spravodajská správa vygenerovaná AI takmer vyvolala vojenský konflikt medzi USA a Čínou

 

KĽÚČOVÉ ZISTENIA:

• Umelá inteligencia chybne označila náklad čínskej lode na Blízkom východe za komponenty pre jadrové zbrane.

• Americká armáda na základe tejto správy takmer spustila operáciu na zadržanie plavidla.

• Incident odhalil kritické riziká spoliehania sa na umelú inteligenciu vo vysoko rizikových vojenských operáciách.

Americká armáda na jar tohto roka takmer chybne zasiahla proti čínskej lodi na základe nesprávnej spravodajskej správy. Správa, ktorá kolovala vo vojenských kruhoch počas napätia na Blízkom východe, tvrdila, že plavidlo preváža komponenty spojené s programom jadrových zbraní. Vojenské velenie okamžite zareagovalo a pripravilo podrobný plán na fyzické zadržanie lode v medzinárodných vodách.

Do vzduchu vzlietli vojenské lietadlá a ozbrojený personál bol pripravený na nalodenie, kým sa akcia na poslednú chvíľu nezrušila. Tesne pred spustením operácie veliaci dôstojníci podrobnejšie preskúmali spravodajské informácie a zistili, že správa je úplne vymyslená. Analytik napojený na tichomorské veliteľstvo špeciálnych operácií použil pri práci na správe četbota, ktorý vygeneroval nepravdivé závery.

Systém spojil voľne dostupné informácie s utajovanými signálovými spravodajskými dátami, pričom nesprávne identifikoval prepravovaný materiál. Následne analytik opäť použil umelú inteligenciu, aby tieto chybné zistenia sformátoval do štandardnej spravodajskej správy, ktorú poslal armádnym predstaviteľom. Výsledná halucinácia systému vyústila do poplachu, ktorý mohol podľa odborníkov vyvolať ozbrojený konflikt medzi Spojenými štátmi a Čínou.

Neexistencia jednotného štandardu na overovanie výstupov umelej inteligencie v armáde tak viedla k situácii, kedy sa nesprávne údaje dostali k rozhodovacím orgánom. Incident sa odohral v čase, keď americké spravodajské služby a armáda rapídne rozširujú využívanie umelej inteligencie. Technológia sa momentálne testuje pri analýze údajov, výbere cieľov, logistike či riadení dodávateľských reťazcov.

Predstavitelia armády argumentujú, že si nemôžu dovoliť zaostávať vo vývoji umelej inteligencie, no neustále narážajú na problém dôvery v systémy AI. Zástupcovia spravodajských služieb upozorňujú, že tlak na rýchle spracovanie informácií môže viesť k chybám.

Mladší analytici môžu byť náchylnejší dôverovať výstupom technológie bez dostatočného a kritického preskúmania faktov. Udalosť s čínskou loďou ukázala, že nasadenie technológie v kritických vojenských situáciách môže mať bez ľudskej kontroly katastrofálne následky.

PREČO JE TO DÔLEŽITÉ: Prípad dokazuje, že nasadenie umelej inteligencie v armáde bez prísnych mechanizmov kontroly môže viesť k fatálnym chybám a nepredvídateľným medzinárodným konfliktom.

Zdroj: interestingengineering.com foto: ChatGPT