Sme pripravení na príchod cudzej inteligencie?

Na planétu Zem mieri cudzí druh a nemáme dôvod veriť, že bude priateľský. Niektorí odborníci predpovedajú, že sa sem dostane do 30 rokov, zatiaľ čo iní trvajú na tom, že dorazí oveľa skôr. Nikto nevie, ako bude vyzerať, no s nami ľuďmi bude mať spoločné dve kľúčové črty – bude inteligentný a uvedomelý. Nie, nejde o mimozemšťanov zo vzdialenej planéty, zrodí sa priamo tu na Zemi – vo výskumnom laboratóriu na veľkej univerzite alebo vo veľkej korporácii. Máme na mysli prvú umelú všeobecnú inteligenciu (artificial general intelligence – AGI), ktorá dosahuje (alebo prekračuje) poznanie na ľudskej úrovni.

Na privedenie tohto cudzieho druhu k životu sa vynakladajú miliardy, pretože by sa to považovalo za jeden z najväčších technologických úspechov v histórii ľudstva. Lenže na rozdiel od našich iných vynálezov tento bude mať vlastnú myseľ. A ak sa bude správať ako každý iný inteligentný druh, ktorý poznáme, bude klásť na prvé miesto vlastné záujmy a snažiť sa maximalizovať svoje vyhliadky na prežitie. Mali by sme sa báť vyššej inteligencie, ktorá sa riadi vlastnými cieľmi, hodnotami a záujmami?

Mnohí ľudia túto otázku odmietajú a veria, že vytvoríme systémy umelej inteligencie na svoj obraz, aby mysleli, cítili a správali sa rovnako ako my. Je však veľmi nepravdepodobné, že to tak bude. Umelé mysle sa netvoria písaním softvéru so starostlivo vytvorenými pravidlami, vďaka ktorým budú myslieť ako my. Namiesto toho inžinieri vkladajú obrovské súbory údajov do jednoduchých algoritmov, ktoré automaticky upravujú svoje vlastné parametre a robia milióny a milióny drobných zmien vo svojej štruktúre, kým sa neobjaví inteligencia s vnútorným fungovaním, ktoré je príliš zložité na to, aby sme ho pochopili.

A tým, že ju budeme zásobovať údajmi o ľuďoch, nedosiahneme, aby myslela ako ľudia. Je falošné presvedčenie, že trénovaním umelej inteligencie na údajoch, ktoré opisujú ľudské správanie, zabezpečíme, že bude myslieť, cítiť a konať ako my. Nebude to tak. Vytvoríme stvorenia s umelou inteligenciou, aby poznali ľudí, nie aby boli ľuďmi. Áno, budú nás poznať skrz-naskrz, budú schopné hovoriť naším jazykom a interpretovať naše gestá, čítať naše výrazy tváre a predvídať naše konanie.

Budú rozumieť tomu, ako sa rozhodujeme, logicky aj nelogicky, veď celé desaťročia budeme systémy umelej inteligencie učiť, ako sa my ľudia správame takmer v každej situácii. No ich mysle aj tak nebudú podobné našim. Nám sa budú zdať vševediace, prepojené so vzdialenými senzormi všetkého druhu a všade, akoby disponovali miliardou očí a uší. My ľudia si ani nevieme predstaviť, aké by bolo vnímať náš svet takýmto rozsiahlym a celistvým spôsobom, a predsa akosi predpokladáme, že takáto myseľ bude zdieľať našu morálku, hodnoty a citlivosť. Nebude.

Umelé mysle sa budú úplne líšiť od všetkých biologických mozgov, ktoré poznáme na Zemi – od ich základnej štruktúry a funkčnosti až po ich fyziológiu a psychológiu. Môžeme vytvoriť telá podobné ľuďom, ktoré by mohli obývať ale budú to len robotické fasády, aby sme sa v ich prítomnosti cítili pohodlne. My ľudia budeme veľmi tvrdo pracovať na tom, aby títo cudzinci vyzerali ako my a hovorili ako my, dokonca sa usmievali ako my, ale v hĺbke duše sa nám vôbec nebudú podobať.

S najväčšou pravdepodobnosťou bude ich mozog žiť v cloude (úplne alebo čiastočne), spojený s vlastnosťami a funkciami v rámci humanoidných foriem, do ktorých ich stelesníme, aj mimo nich. Fasáda však bude fungovať – týchto cudzincov sa nebudeme báť, aspoň nie tak, ako by sme sa báli stvorení, ktoré sa k nám prirútili v tajomnej vesmírnej lodi. Môžeme dokonca pociťovať istú príbuznosť, hľadieť na nich ako na náš vlastný výtvor, prejav našej vlastnej vynaliezavosti.

No ak tieto pocity odsunieme, začneme si uvedomovať, že nadľudská inteligencia, ktorá sa tu zrodila, je oveľa nebezpečnejšia ako tá, ktorá môže prísť z diaľky. Cudzorodá myseľ, ktorá tu bola postavená, bude o nás od začiatku vedieť všetko, pretože bola navrhnutá tak, aby pochopila ľudí zvnútra i zvonku, optimalizovaná na to, aby vycítila naše emócie a predvídala naše činy, pocity, ovplyvňovala naše presvedčenie a názory. Keby aj mimozemšťania mali také hlboké znalosti o našom správaní a sklonoch, boli by sme zdesení.

Už teraz dokáže umelá inteligencia poraziť našich najlepších hráčov v najťažších hrách. V skutočnosti však tieto systémy neovládajú len hry ako šach, poker a go, ale ovládajú aj hru ľudí, učia sa presne predvídať naše akcie a reakcie, predvídať naše chyby a využívať naše slabiny. Výskumníci na celom svete už vyvíjajú systémy umelej inteligencie, ktoré nás dokážu prekonať, predbehnúť a obohrať. Môžeme sa nejako chrániť? Určite nemôžeme zabrániť tomu, aby AI bola stále silnejšia, pretože žiadnu inováciu sa ešte nepodarilo zastaviť.

A hoci niektorí pracujú na zavedení ochranných opatrení, nemôžeme predpokladať, že to bude stačiť na odstránenie hrozby. Ako sa teda môžeme pripraviť na jej príchod? Predovšetkým si treba uvedomiť, že AGI sa objaví v najbližších desaťročiach a nebude to digitálna verzia ľudskej inteligencie. Bude to cudzorodá inteligencia, taká cudzia a nebezpečná, ako keby prišla zo vzdialenej planéty. Mohli by sme to teda riešiť a presadzovať reguláciu systémov AI, ktoré monitorujú a manipulujú verejnosť, cítia naše emócie a predvídajú naše správanie.

Dnes takéto technológie nemusia vyzerať ako existenčná hrozba, pretože sa väčšinou vyvíjajú na optimalizáciu účinnosti reklamy riadenej umelou inteligenciou, nie na uľahčenie ovládnutia sveta. To však neznižuje nebezpečenstvo – technológie AI navrhnuté na analýzu ľudských nálad a ovplyvňovanie nášho presvedčenia môžu byť ľahko použité proti nám ako zbrane masového presviedčania. Opatrnejší by sme mali byť aj pri automatizácii ľudských rozhodnutí.

Hoci je nepopierateľné, že umelá inteligencia môže pomôcť pri efektívnom rozhodovaní, konečné slovo by mali mať vždy ľudia. Umelú inteligenciu treba využívať skôr na posilnenie ľudskej inteligencie, nie na jej nahradenie. Či už sa na to pripravíme, alebo nie, cudzorodé mozgy smerujú k nám a ľahko sa môžu stať našimi rivalmi, ktorí budú súťažiť o rovnaký kútik na vrchole intelektuálneho potravinového reťazca. A hoci v komunite okolo AI existuje úprimná snaha presadzovať bezpečné technológie, nechápe sa to ako naliehavosť.

Mnohí sa totiž mylne domnievajú, že vnímajúca umelá inteligencia vytvorená ľudstvom bude digitálny potomok, ktorý má s nami spoločné ľudské jadro. Je to však len zbožné želanie. Je pravdepodobnejšie, že skutočná AGI sa bude od nás hlboko líšiť takmer vo všetkých ohľadoch. A bude pozoruhodne zručná v predstieraní ľudskej podoby, ale pod ľudsky prívetivou fasádou to bude súperiaca myseľ, ktorá myslí, cíti a koná ako žiadny tvor, ktorého sme doteraz na Zemi stretli. Nastal čas na prípravu.

Zdroj: venturebeat.com.

Autor Louis Rosenberg je technologickým priekopníkom v oblasti VR, AR a AI. Je známy vývojom prvého systému rozšírenej reality pre americké letectvo v roku 1992, založením jednej z prvých spoločností pre virtuálnu realitu Immersion Corp v roku 1993 a založením AR spoločnosti Outland Research v roku 2004. V súčasnosti je zakladateľom a generálnym riaditeľom spoločnosti Unanimous AI.