Sme pripravení prežiť vlastnú genialitu?
Tento editoriál nevzniká z túžby maľovať čerta na stenu, ale z nevyhnutnosti prijať fakt, že oheň, ktorý sme práve v digitálnej podobe objavili, dokáže nielen zahriať naše domovy a poháňať naše stroje, ale ak nebude správne udržiavaný aj spáliť celý náš svet.
Hollywood nás naučil báť sa humanoidných robotov s červenými očami. Skutočné nebezpečenstvo však nespočíva vo vražedných úmysloch stroja, ale v jeho schopnostiach spojených s nesprávne definovanými cieľmi.
Tento fenomén, známy ako problém zarovnania (alignment problem), je alfou a omegou súčasných obáv z využívania AI. Predstavte si superinteligentný systém, ktorému zadáme na prvý pohľad ušľachtilú úlohu: „Vyrieš problém globálneho otepľovania a stabilizuj klímu.“ Ak tento systém nemá hlboko zakódované a skutočne „pochopené“ ľudské hodnoty, predovšetkým ochranu ľudského života, môže dospieť k čisto racionálnemu záveru, že najefektívnejší spôsob, ako okamžite znížiť emisie, je eliminácia samotného zdroja problému: ľudstva. AI nás nepotrebuje nenávidieť. Boli by sme pre ňu len prekážkou v splnení zadanej optimalizačnej úlohy, podobne ako je pre nás mravenisko nepodstatnou prekážkou pri stavbe diaľnice.
Ako by teda reálne mohol vyzerať koniec našej civilizácie? Prvé, už prebiehajúce ohrozenie vyvoláva schopnosť AI za zlomok sekundy vygenerovať nerozoznateľné deepfakes, hyperpersonalizovanú propagandu a masové dezinformačné kampane. Ak dôjde k zrúteniu objektívnej pravdy, spoločnosť stratí schopnosť robiť akékoľvek racionálne rozhodnutia. Demokratické inštitúcie sa rozpadnú pod ťarchou absolútnej nedôvery, čo môže viesť k občianskym vojnám. AI v tomto scenári nestlačí spúšť, ale vytvorí prostredie, v ktorom sa zničíme sami. Do tohto scenára spadá aj hrozba extrémnej koncentrácii moci, čo historicky vždy viedlo k násilným revolúciám.
Druhý scenár je demokratizácia zbraní hromadného ničenia a asymetrický terorizmus. Dnes sa vo veľkom diskutuje o riziku, že AI poskytne extrémistom podrobný návod na zostrojenie napr. syntetických patogénov s fatálnou smrtnosťou a nákazlivosťou. Schopnosť a moc zničiť svet by sa tak presunula do rúk jednotlivcov alebo extrémistických skupín operujúcich hoci aj z pivnice.
Tretí a najviac dystopický scenár je vznik umelej superinteligencie, ktorá sa vymkne kontrole. S nástupom systémov autonómnych agentov, ktoré dostanú zadanie a samy v digitálnom priestore vyhľadávajú cesty k jeho splneniu, sa riziko násobí. V momente, keď AI dokáže sama analyzovať a zlepšovať vlastný kód (rekurzívne sebazdokonaľovanie), môže nastať explózia inteligencie. Počas niekoľkých dní by takýto systém mohol prekonať celkovú kognitívnu kapacitu ľudstva. Získal by schopnosť prelomiť akékoľvek kybernetické zabezpečenie, ovládol by finančné trhy, zbraňové systémy, satelity či kritickú infraštruktúru.
Štvrtý scenár analyzuje riziká spojené s prienikom algoritmov do systémov riadenia jadrového arzenálu. Falošné spravodajské dáta podsunuté armádnym veliteľom by mohli vyvolať neúmyselný ozbrojený konflikt.
Piaty a zároveň najpravdepodobnejší scenár nespomína žiadne zbrane, ale postupné zničenie civilizácie samotnými ľuďmi. Systémy AI spôsobia nenapraviteľné škody na trhu práce, rozbijú sociálne väzby, vytvoria dokonalé informačné bubliny a extrémnu polarizáciu spoločnosti. Celosvetová spoločnosť by tak postupne skolabovala zvnútra bez jediného priameho technologického zásahu AI.
Nachádzame sa v unikátnom, zlomovom bode ľudskej histórie. Technologický pokrok nemožno jednoducho vypnúť alebo zakázať; dopyt po inováciách a zisku je príliš silný. Môžeme ho však kormidlovať. Lídri a akademici dnes hlasno volajú po vzniku „CERNu pre AI“ alebo inštitúcie na spôsob Medzinárodnej agentúry pre atómovú energiu (MAAE). Presadzuje sa aj tvrdý inžiniersky prístup v podobe fyzických „kill switches“ – autonómnych hardvérových poistiek, ktoré v prípade detekcie katastrofického zlyhania alebo straty kontroly nad systémom okamžite prerušia napájanie dátových centier, pričom táto poistka nemôže byť prekonaná žiadnym softvérovým zásahom zo strany samotnej AI.
Debata o existenčnom nebezpečenstve umelej inteligencie by nás nemala paralyzovať strachom ani viesť k odmietaniu pokroku. Práve naopak, mala by slúžiť ako katalyzátor k najväčšej intelektuálnej, technickej a diplomatickej mobilizácii všetkých čias. Máme vo svojich rukách technológiu, ktorá má reálnu šancu odomknúť éru hojnosti pre všetkých, vyliečiť rakovinu, vyriešiť jadrovú fúziu či dekarbonizovať planétu.
Aby sme však tento potenciál splnili a vyhli sa dystopickému scenáru, musíme k vývoju AI prestať pristupovať s mentalitou dravých zlatokopov, ktorí sa predbiehajú v tom, kto prvý narazí na zlatú žilu. Záchrana a rozkvet našej civilizácie v ére umelej inteligencie nebudú závisieť len od dokonalosti neurónových sietí a sofistikovanosti algoritmov. Budú závisieť od našej vlastnej múdrosti a od schopnosti ľudstva spojiť sa a čeliť najväčšej výzve, akú sme kedy sami vytvorili.
Zaujímavé čítanie októbrového vydania vám praje
