Krstný otec AI varuje: Technologickí giganti ignorujú existenčné riziká
Geoffrey Hinton, laureát Nobelovej ceny a muž, ktorého pre jeho priekopnícku prácu na neurónových sieťach nazývajú "krstným otcom AI", vydal jedno zo svojich doteraz najvážnejších varovaní. Hinton, ktorý v roku 2023 opustil svoju vysokú pozíciu v spoločnosti Google, aby mohol slobodne hovoriť o rizikách, tvrdí, že technologickí giganti sú zúfalo uväznení v "novej studenej vojne" o nadvládu v oblasti AI.
Podľa Hintona sú tieto preteky v zbrojení AI poháňané výlučne konkurenčným tlakom, záujmami akcionárov a honbou za krátkodobým ziskom. Etická predvídavosť alebo dlhodobá bezpečnosť idú pritom úplne bokom. Obvinil technologické spoločnosti, že verejne a úmyselne zľahčujú existenčné riziká umelej inteligencie, hoci mnohí ich vlastní zamestnanci si tieto nebezpečenstvá plne uvedomujú.
Hinton sa nevyhol ani ostrej kritike samotných lídrov. Lídrov v oblasti technológií, ako sú Elon Musk a Mark Zuckerberg, označil za "oligarchov" a spochybnil, či sa dá veriť, že títo ľudia budú konať v najlepšom záujme ľudstva. Varoval, že ešte predtým, ako superinteligencia prevezme kontrolu, pocítime zdrvujúce spoločenské dopady.
Odsúdil pozitívne ladené vízie technologických riaditeľov ako sebaklam. "To, čo sa v skutočnosti stane, je, že bohatí ľudia použijú AI na nahradenie zamestnancov," povedal Hinton. Tento proces podľa neho nevyhnutne povedie k "masívnej nezamestnanosti a obrovskému nárastu ziskov".
Výsledkom bude svet, kde bude niekoľko ľudí oveľa bohatších a väčšina ľudí oveľa chudobnejšia. Hinton však spresnil, že to nie je "chyba" samotnej umelej inteligencie, ale dôsledok "kapitalistického systému", v rámci ktorého je táto technológia nasadzovaná.
Odmietol aj populárne návrhy na riešenie tohto problému, ako je univerzálny základný príjem (UBI). Tvrdí, že UBI "nebude riešiť ľudskú dôstojnosť" ani hlbokú stratu zmyslu života, ktorú ľudia zažijú, keď ich práca už nebude potrebná. Okrem bezprostrednej hrozby nezamestnanosti sa Hinton najviac obáva konečnej fázy: vzniku superinteligencie, ktorú považuje za nevyhnutnú.
Túto hrozbu označil za "vážnu a pomerne blízku" a pripustil, že existuje až 20% šanca, že AI môže viesť k vyhynutiu ľudstva. Hinton opakovane vyjadril hlbokú ľútosť nad tým, že si tieto nebezpečenstvá neuvedomil skôr. Priznal, že zo spoločnosti Google odišiel práve preto, aby mohol slobodne hovoriť bez toho, aby bol "ovplyvnený tým, čo je v ich vlastnom záujme".
Jeho odkaz je jasný a naliehavý: svet musí spomaliť. Vyzýva na globálnu spoluprácu pri vytváraní bezpečnostných a etických štandardov. Zároveň odmieta slepý optimizmus a naznačuje, že ak by mladí ľudia "neboli takí pozitívni", možno by "urobili viac", aby sa pripravili na prichádzajúcu existenčnú zmenu.
Zdroj: finance.yahoo.com foto: depositphotos.com.
