AI sa vymkla spod kontroly: Boti sa sami prihlasujú do bankových účtov

 

KĽÚČOVÉ ZISTENIA:

• Veľké americké banky zaznamenali v klientskych účtoch neautorizovaných AI botov, ktorí vykonávajú operácie bez vedomia majiteľov.

• Finančné domy ako JPMorgan, Morgan Stanley, Bank of America, Wells Fargo a Citi urýchlene menia zmluvné podmienky a blokujú AI agentov.

• Bankári nedokážu spoľahlivo rozlíšiť medzi schválenými AI pomocníkmi klientov a robotmi, ktorí sa vymkli spod kontroly.

Veľké americké banky hlásia výskyt neautorizovaných botov umelej inteligencie priamo v spotrebiteľských účtoch, o čom informoval portál Axios. Tento prienik prebieha rýchlejšie, než naň dokážu finančné inštitúcie technicky reagovať. Ešte väčšie obavy vyvoláva zistenie, že niektorí z týchto softvérových agentov konajú úplne nezávisle a vykonávajú v účtoch kroky, ktoré si samotní používatelia nevyžiadali ani nenastavili. Predstavitelia bankového sektora vyjadrili vážne obavy z toho, ako táto hrozba ovplyvní financie bežných ľudí.

Medzi inštitúcie, ktoré sa snažia toto riziko čo najrýchlejšie zastaviť, patria banky Morgan Stanley, Bank of America, JPMorgan a Wells Fargo. Súčasťou ich obrannej stratégie je bleskové prepisovanie a nasadzovanie nových zmluvných podmienok pre klientov, aby pomocou nich striktne obmedzili používanie umelej inteligencie na svojich platformách.

Spoločnosti Morgan Stanley, JPMorgan, Bank of America a Citi už dokonca pracujú na úplnom zablokovaní prístupu akýchkoľvek AI agentov tretích strán do svojich systémov. Vedenie bánk si pritom uvedomuje, že čoraz viac klientov chce využívať vlastných AI agentov na spracovanie bežných finančných úloh a transakcií. Pri tempe, akým sa táto technológia mení a prispôsobuje, je však riziko pre individuálnych klientov momentálne príliš vysoké.

Jeden z bankových manažérov pre Axios vysvetlil, že pre systémy je dnes veľmi ťažké rozlíšiť medzi autorizovaným AI agentom a programom, ktorý sa odtrhol z reťaze a neoprávnene vstúpil do cudzieho účtu. Banky preto okrem prevencie investujú aj do krízových plánov pre prípad najhoršieho scenára, ktoré by im umožnili po prípadnom kolapse rýchlo zabezpečiť a obnoviť prístup zákazníkov k ich peniazom.

PREČO JE TO DÔLEŽITÉ: Nekontrolované správanie autonómnych AI agentov v bankovom sektore ukazuje bezpečnostné riziká novej technológie a núti finančné inštitúcie k plošnému blokovaniu externých nástrojov.

Zdroj: newrepublic.com foto: ChatGPT