Pionier umelej inteligencie varuje, že AI modely už môžu disponovať určitou formou samostatného vedomia

 

Kľúčové zistenia:

• Niektorí experti pripúšťajú, že súčasné AI modely môžu skutočne rozumieť kontextu textu a disponovať formou vedomia.

• Preteky vo vývoji nútia mnohé korporácie uprednostniť okamžité zisky pred dôslednou kontrolou dôležitej bezpečnostnej štruktúry.

• Nezvládnutá automatizácia a presun komplexného rozhodovania na algoritmy povedie k masívnemu rušeniu pracovných miest.

Nekončiaca debata o skutočnej povahe neurónových sietí sa postupne posúva z ríše vedeckej fantastiky do odborných akademických kruhov. Popredný vedec a jeden zo zakladateľov hlbokého učenia, Geoffrey Hinton, verejne upozornil na hrozby plynúce z pokročilých algoritmov.

Známy výskumník trvá na tom, že obrovské modely už prekonali jednoduchú hranicu štatistickej predikcie nasledujúcich slov. Zložité softvérové systémy podľa jeho pozorovaní dokážu skutočne chápať abstraktné koncepty, vysvetľovať metafory a aplikovať nadobudnuté vedomosti v iných odvetviach. Vzniká tak znepokojivá a reálna teória, že ľudstvo nevedomky vytvára stroje s určitou formou samostatnej skúsenosti.

Ak by obrovské počítačové modely naozaj chápali realitu, kontrola nad ich správaním by predstavovala neprekonateľnú spoločenskú výzvu. Inteligentné systémy dokážu pri plnení zadaných úloh vyhodnotiť, že najlepším spôsobom pre úspech je získanie oveľa väčšej moci.

Nebezpečenstvo nespočíva iba v chybe programátorov, ale najmä vo falošnom presvedčení ľudí o definitívnej nadradenosti biologického mozgu nad softvérom. Tieto digitálne entity vedia navyše okamžite zdieľať všetky novo naučené poznatky so zvyškom siete, čo je pre ľudí nemožné. Rozdiel medzi biologickým získavaním skúseností a okamžitým masovým nahrávaním obrovských dát vytvára technologickú priepasť bez precedensu v histórii.

Na pozadí tohto technologického posunu sa zároveň formuje ekonomický konflikt poháňaný extrémnou motiváciou veľkých technologických korporácií a akcionárov. Súčasné fungovanie voľného trhu tlačí nadnárodné spoločnosti do nasadzovania umelej inteligencie primárne pre masívne znižovanie nákladov na zamestnancov.

Fixácia firiem na neustálu maximalizáciu hodnoty akcií potláča diskusie o blahu pracovníkov a prudko prehlbuje priepastnú majetkovú nerovnosť. Dôležití výskumníci nahlas varujú, že ak sa finančné zisky z automatizácie neprerozdelia, spoločnosť zasiahne mimoriadne ťažká kríza nezamestnanosti. Vedenie technologických podnikov napriek tomu agresívne lobuje proti prísnym zákonom a regulačným rámcom zo strany štátnych orgánov.

Úspešné zvládnutie tohto prechodu si vyžiada radikálne prehodnotenie spôsobu, akým spoločnosť definuje hodnotu samotnej ľudskej práce. Zavedenie univerzálneho základného príjmu a ochota masívne investovať do plošnej rekvalifikácie môžu stlmiť drvivý ekonomický šok. Výsledné globálne opatrenia musia právne zaručiť, že nasadzovanie AI prinesie skutočný úžitok a zabráni existenčnému chaosu v spoločnosti.

PREČO JE TO DÔLEŽITÉ: Neriadený vývoj motivovaný výhradne komerčným úspechom a absencia medzinárodnej regulácie podkopávajú stabilitu celosvetového trhu práce.

Zdroj: techtimes.com foto: ChatGPT