Cesta k superinteligencii: Expert varuje, že musíme konať skôr, ako bude neskoro
KĽÚČOVÉ ZISTENIA:
-
Superinteligencia (ASI) je ďalším krokom po umelej všeobecnej inteligencii (AGI).
-
Expert Calum Chace varuje pred "Ekonomickou singularitou" a stratou pracovných miest.
-
Kľúčovou výzvou nie je "či" príde, ale "kedy" a či ju dokážeme zladiť.
V technologickom svete sa opäť intenzívne diskutuje o konečnom cieli umelej inteligencie. Téma „Cesta k superinteligencii“, ktorej sa vo svojom novom článku venuje rešpektovaný autor a expert Calum Chace, už nie je len hypotetickou úvahou.
Stáva sa z nej naliehavá politická a technická výzva, keďže pokroky v oblasti veľkých jazykových modelov a strojového učenia sa zrýchľujú exponenciálnym tempom. Calum Chace, ktorý pôsobí ako poradca pre vlády a korporácie v oblasti politiky AI, sa dlhodobo zameriava na strednodobé a dlhodobé dôsledky tejto technológie.
Vo svojich prácach, vrátane kníh „Surviving AI“ (Prežiť AI) a „The Economic Singularity“ (Ekonomická singularita), Chace definuje jasnú, no znepokojivú trajektóriu vývoja. Táto „cesta“ sa podľa neho skladá z niekoľkých kľúčových etáp.
Prvým krokom, ku ktorému sa možno blížime, je vytvorenie Všeobecnej Umelej Inteligencie (AGI). Ide o AI, ktorá by dosiahla kognitívne schopnosti na úrovni bežného človeka, schopná učiť sa, uvažovať a riešiť problémy v akejkoľvek doméne, podobne ako my.
Chace však argumentuje, že AGI nie je konečným cieľom; je to len krátky prechodný bod na ceste k niečomu oveľa mocnejšiemu. Konečnou stanicou je Umelej Superinteligencia (ASI) – inteligencia, ktorá by prekonala kognitívne schopnosti nielen jedného človeka, ale celej ľudskej civilizácie dokopy.
Chace a ďalší experti v tejto oblasti, ako napríklad Tim Urban, ktorého prácu často cituje, varujú pred takzvaným „tvrdým vzletom“ (hard takeoff). Tento scenár predpokladá, že prechod od ľudskej úrovne (AGI) k božskej úrovni (ASI) nemusí trvať desaťročia, ale možno len dni, hodiny alebo dokonca minúty.
Rýchlosť tohto pokroku je ilustrovaná analógiou: ľudstvo potrebovalo tisícročia na vynájdenie dopravného prostriedku, ktorý by bol rovnako rýchly ako človek, ale len štyri roky na to, aby jeho rýchlosť zdvojnásobilo. Akonáhle AI dosiahne schopnosť inteligentne vylepšovať samu seba, spustí sa rekurzívna slučka, ktorú už nebudeme schopní kontrolovať ani pochopiť.
Chace preto trvá na tom, že otázka už nie je „či“ sa to stane, ale „kedy“. Táto cesta k superinteligencii so sebou prináša dve odlišné, aj keď prepojené hrozby.
Prvou je existenčné riziko, ktorému sa venuje kniha „Surviving AI“. Ide o problém „zladenia AI“ (AI alignment) – ako zabezpečiť, aby ciele a motivácie superinteligentného stroja boli zlučiteľné s prežitím a prosperitou ľudstva. Ak by sme vytvorili ASI, ktorej ciele by boli čo i len mierne odlišné od tých našich, následky by mohli byť katastrofálne.
Druhá hrozba, ktorú Chace nazýva „Ekonomická singularita“, je oveľa bezprostrednejšia a nastane ešte pred príchodom ASI. Ide o masívny spoločenský a ekonomický otras spôsobený tým, že „hlúpa“ AI zautomatizuje obrovské množstvo kognitívnych úloh a pracovných miest.
Tento kolaps trhu práce by mohol nastať oveľa rýchlejšie, než sú naše sociálne a politické systémy schopné sa prispôsobiť, čo by viedlo k nestabilite a chaosu. Chaceova práca nie je len pasívnym varovaním; je to výzva na akciu. Zdôrazňuje, že nemôžeme riešiť tieto dva problémy oddelene.
Sily, ktoré nás ženú k ekonomickej singularite – teda tlak na zisk a automatizáciu – sú tými istými silami, ktoré bezhlavo zrýchľujú vývoj smerom k superinteligencii. Argumentuje, že debata o tom, či je AGI vôbec možná, je strata drahocenného času.
Namiesto filozofických špekulácií musíme okamžite začať riešiť problém „zladenia“ ako najdôležitejšiu inžiniersku a politickú výzvu našej doby. Cesta k superinteligencii nie je niečo, čo pasívne pozorujeme; je to niečo, čo aktívne budujeme.
PREČO JE TO DÔLEŽITÉ: Diskusia o superinteligencii nie je vedecká fantastika, ale najnaliehavejšia technická a politická výzva 21. storočia. Spôsob, akým sa ako civilizácia postavíme k problému „zladenia AI“ a „ekonomickej singularity“, priamo určí, či ľudstvo dokáže prežiť svoj vlastný najväčší vynález.
Zdroj: forbes.com foto: depositphotos.com
