3 oblasti, v ktorých AI môže v roku 2024 ohroziť ľudstvo

Umelá inteligencia (AI) je tu už desaťročia, ale rok 2023 bol pre túto technológiu prelomový, keď spoločnosť OpenAI vytvorila ChatGPT, dostupnú, praktickú AI pre masy.  Inovácie v oblasti umelej inteligencie sú väčšinou pripravené zlepšiť veci, ako je lekárska diagnostika a vedecké objavy. Existuje napríklad model AI, ktorý dokáže analýzou röntgenovej snímky zistiť, či máte vysoké riziko vzniku rakoviny pľúc.

Vedci vytvorili aj algoritmus, ktorý dokáže diagnostikovať vírus COVID-19 počúvaním jemných rozdielov vo zvuku ľudského kašľa. Umelá inteligencia bola použitá aj na navrhovanie experimentov v oblasti kvantovej fyziky. Nie všetky inovácie sú však také neškodné. Niektoré z najdesivejších prelomových objavov v oblasti umelej inteligencie pravdepodobne prídu v roku 2024. Siahajú od vražedných dronov až po umelú inteligenciu ohrozujúcu budúcnosť ľudstva.

Nevedno, prečo presne bol generálny riaditeľ OpenAI Sam Altman odvolaný a opätovne dosadený koncom roka 2023. No uprostred podnikového chaosu v OpenAI sa šírili zvesti o vyspelej technológii, ktorá by mohla ohroziť budúcnosť ľudstva. Tento systém OpenAI, nazývaný Q* (Q-star), môže stelesňovať potenciálne prelomovú realizáciu umelej všeobecnej inteligencie (artificial general intelligence – AGI). O tomto systéme sa vie len málo, ale ak sú správy pravdivé, mohlo by to zvýšiť schopnosti AI o niekoľko rádov.

AGI je hypotetický bod zlomu, známy aj ako singularita, v ktorom sa AI stáva inteligentnejšou ako ľudia. Súčasné generácie AI stále zaostávajú v oblastiach, ako je kontextové uvažovanie a skutočná kreativita. Väčšina obsahu generovaného umelou inteligenciou, ak nie všetok, len určitým spôsobom opakuje údaje, ktoré sa použili na jej trénovanie. Vedci však tvrdia, že AGI by mohla vykonávať konkrétne úlohy lepšie ako väčšina ľudí. Dala by sa  použiť aj ako zbraň a využiť napríklad na vytváranie zlepšených patogénov, spúšťanie masívnych kybernetických útokov alebo organizovanie masovej manipulácie.

Mnohí vedci sa domnievajú, že AGI nikdy nedosiahneme a táto myšlienka sa obmedzuje na sci-fi. Keby OpenAI už dosiahol tento bod zlomu, bol by to určite šok. Sam Altman už vo februári 2023 blogovom príspevku načrtol približovanie sa OpenAI k AGI. Odborníci začínajú predpovedať bezprostredný prielom, napríklad generálny riaditeľ Nvidie Jensen Huang v novembri povedal, že AGI je na dosah a dospejeme k nej v priebehu nasledujúcich piatich rokov. Čas ukáže, či rok 2024 bude prelomovým rokom pre AGI.

1) Jednou z najpálčivejších kybernetických hrozieb je hrozba deepfakes – úplne sfalšovaných obrázkov alebo videí, ktoré by ľudí mohli skresľovať, kriminalizovať alebo šikanovať. Technológia síce ešte nie je dosť dobrá na to, aby predstavovala významnú hrozbu, no asi sa to čoskoro zmení. Umelá inteligencia už teraz dokáže generovať deepfakes v reálnom čase a stáva sa veľmi dobrou vo vytváraní ľudských tvárí, takže ľudia už nedokážu rozlíšiť, čo je skutočné a čo falošné.

Nedávna štúdia publikovaná v časopise Psychological Science odhalila fenomén „hyperrealizmu“, čo znamená, že je pravdepodobnejšie, že obsah generovaný AI bude viac vnímaný ako „skutočný“ než skutočný obsah. To by ľuďom prakticky znemožnilo rozlíšiť voľným okom skutočnosť od fikcie. Hoci niektoré nástroje môžu ľuďom pomôcť odhaliť deepfakes, nie sú ešte dokonalé.

2) Ako generatívna AI dozrieva, existuje desivá možnosť, že ľudia by mohli nasadiť deepfakes, aby sa pokúsili manipulovať voľby. Pritom v mnohých štátoch chýbajú zákony alebo nástroje na zvládnutie akéhokoľvek nárastu dezinformácií generovaných AI. Vlády na celom svete čoraz viac začleňujú AI do nástrojov na vedenie vojny.

„Nezodpovedné“ používanie AI je reálna a desivá perspektíva. Umelá inteligencia dokáže rozpoznať vzory, sama sa učiť, predpovedať alebo generovať odporúčania vo vojenskom kontexte. 

3) Je pravdepodobné, že v roku 2024 sa AI nebude používať len v zbraňových systémoch, ale aj v logistických systémoch a systémoch na podporu rozhodovania, ako aj vo výskume a vývoji. Napríklad v roku 2022 AI vytvorila 40 000 nových, hypotetických chemických zbraní. Rôzne zložky americkej armády si objednali drony, ktoré dokážu rozpoznávať ciele a sledovať boje lepšie ako ľudia.

Izrael vo vojne s Hamasom už použil AI na identifikáciu cieľov najmenej 50-krát rýchlejšie ako ľudia. Jednou z najobávanejších oblastí vývoja je však oblasť smrtiacich autonómnych zbraňových systémov (lethal autonomous weapon systems – LAWS) alebo vražedných robotov. Viacerí vedci a technológovia vrátane Stephena Hawkinga a Elona Muska varovali pred zabíjačskými robotmi. Zatiaľ sa táto technológia ešte nenasadzuje v masovom rozsahu, no niektoré znepokojujúce udalosti naznačujú, že rok 2024 by mohol priniesť v tejto oblasti zlom.

Správa The Bulletin of the Atomic Scientists napríklad uvádza, že Rusko na Ukrajine údajne nasadilo bezpilotné lietadlo Zala KYB-UAV, ktoré dokázalo rozpoznať a zaútočiť na ciele bez ľudského zásahu. Podľa Australian Financial Review Austrália zasa vyvinula Ghost Shark – autonómny podmorský systém, ktorý sa má vyrábať „vo veľkom rozsahu“. Ukazovateľom je aj množstvo peňazí, ktoré krajiny na celom svete vynakladajú na AI. Tento vývoj naznačuje, že vstupujeme do nového veku vedenia vojny pomocou AI.

Zdroj: livescience.com.