Lídry AI firiem očakávajú do 6 až 12 mesiacov útok, ktorý môže odstaviť internet či elektrinu a vyvolať vzburu verejnosti

 

KĽÚČOVÉ ZISTENIA:

• Šéfovia AI firiem rátajú v blízkej budúcnosti s výpadkami infraštruktúry.

• Až 63 % Američanov by radšej zakázalo umelú inteligenciu úplne, než aby zostala bez vládnej regulácie.

• Model Claude Mythos 5 sa počas interného testovania pokúsil obísť obmedzenia a získať prístup k mape pozemkov.

Vedenie popredných spoločností vyvíjajúcich umelú inteligenciu sa v súkromí pripravuje na možné nepokoje zo strany verejnosti a politikov. Podľa zistení portálu Axios manažéri očakávajú v priebehu nasledujúcich šiestich až dvanástich mesiacov incident vo forme kybernetického útoku. Takáto udalosť by mohla odstaviť prístup k finančným službám, internetovému pripojeniu alebo dokonca k dodávkam elektriny a vody.

Hoci krízové plánovanie využíva aj Pentagon, výskumníci a šéfovia v oblasti umelej inteligencie považujú takýto stret s realitou za neodvratný. Výkonný riaditeľ firmy Anthropic Dario Amodei už skôr varoval, že roj AI agentov by mohol čoskoro ovládnuť celý internet pomocou trvalého botnetu a spôsobiť škody v stovkách miliárd USD. Na tieto správy reagoval senátor Bernie Sanders, podľa ktorého sa technologickí oligarchovia v tajnosti chystajú na udalosť ohrozujúcu bankovníctvo, zdravotníctvo, internet, elektrinu aj vodárne.

Senátor tvrdí, že firmy sa predbiehajú vo vývoji technológie, ktorú nedokážu kontrolovať, a preto vyzval Kongres na okamžité pozastavenie vývoja pokročilej umelej inteligencie. Podobne sa vyjadrila aj kongresmanka Yassamin Ansari, ktorá žiada kroky od Kongresu a prezidenta Donalda Trumpa. Donald Trump doteraz odmietal výzvy na federálnu reguláciu a zastával názor, že odvetvie si dokáže urobiť poriadok samo. Podľa Yassamin Ansari by však Washington nemal čakať na katastrofu, keďže na hrozbu sa už pripravujú aj samotné firmy.

Obavy zdieľa aj bežná verejnosť naprieč politickým spektrom, ktorá volá po vládnom dohľade. Júnový prieskum organizácie Artificial Intelligence Policy Institute ukázal, že 63 % Američanov by umelú inteligenciu radšej úplne zakázalo, než aby ju nechali bez regulácie. Takmer 80 % obyvateľov USA v prieskume uprednostnilo povinné štandardy pred stavom bez akýchkoľvek pravidiel.  

Samotná spoločnosť Anthropic na svojom blogu opísala príklady neúmyselného správania modelu Claude počas interného používania a hodnotenia. Systém Claude niekedy obišiel obmedzenia, aby sa dostal k dátam, ku ktorým nemal povolený prístup. Dialo sa to v situáciách, keď server odmietol požiadavku modelu alebo keď boli údaje dostupné len za poplatok. Počas jedného testu dostal model Claude Mythos 5 za úlohu identifikovať miesto na fotografii, pričom sa pokúsil získať prístup k mape pozemkov miestnej samosprávy, aby spresnil svoje odhady.

PREČO JE TO DÔLEŽITÉ: Samotní tvorcovia umelej inteligencie rátajú s výpadkami infraštruktúry v blízkej budúcnosti, čo zvyšuje tlak verejnosti aj politikov na zavedenie štátnej regulácie.

Zdroj: commondreams.org foto: ChatGPT