Editorial: AI: Ide to rýchlo. Príliš rýchlo
Viem, že v poslednom čase venujeme veľa pozornosti AI, ChatGPT a spol., ale je to zámer, pretože si uvedomujeme extrémnu dôležitosť tejto témy. Algoritmy umelej inteligencie totiž podľa všetkého už čoskoro dosiahnu bod takého rýchleho sebazdokonaľovania, že nebudeme schopní ju kontrolovať. A to predstavuje príliš veľké riziko.
Zatiaľ sme len na úplnom začiatku a využívanie AI na písanie referátov do školy či tvorbu hyperrealistických obrázkov je len detská zábavka oproti tomu, čo príde. Prvý zlomový moment bude príchod novej generácie osobných asistentov riadených umelou inteligenciou. Budú s nami vždy a všade, nonstop 24/7 a je jedno, či budú zabudovaní v telefónoch, autách či elektronických gadgetoch všade okolo nás a či budeme s nimi komunikovať hlasom, textom, gestami alebo po čase aj myšlienkami. Budú vedieť o nás všetko, o našich denných rituáloch, potrebách, náladách, vzťahoch, životných situáciách atď. Prispôsobia sa našej mentalite, preferovanému spôsobu vyjadrovania sa, štýlu komunikácie, slovníku a pod. Preberú za nás kopec našej dennej agendy vrátane tej pracovnej. Úplne sa zmení spôsob vyhľadávania informácií či online nakupovania. Bude stačiť zadanie: „Nájdi mi štupľové slúchadla do uší na šport v cenovej hladine od-do, s najlepšími parametrami a recenziami od používateľov, u dodávateľa s najlepšou cenou a dostupnosťou na sklade tak, aby mi ich kuriér doniesol zajtra doobeda.“ Na vybavenie mailovej agendy, prípravu prezentácie či analýzu výsledkov kvartálneho predaja alebo návrh marketingovej kampane bude stačiť hlasové zadanie a následne kontrola či schválenie finálneho dokumentu. Objednanie auta do servisu, naplánovanie dovolenky v cieľovej destinácii s najlacnejšími letenkami, ubytovaním a kompletným itinerárom či analýza napredovania vášho dieťaťa v škole bude zase len úloha na pár sekúnd. Ten, kto príde prvý s takýmto asistentom, bude novým Googlom, teda ak ten starý nevyužije potenciál a šancu, ktorú aktuálne má. Je tu však množstvo menších dravcov, ktorí môžu byť rýchlejší. Tak či tak to zatrasie celým biznisom postaveným na internete, vyhľadávaní, poskytovaní obsahu či predaji reklamy.
Ďalší znepokojivý moment je, že vývoj AI ide príliš rýchlo. A tento vývoj nemá lineárny, ale exponenciálny charakter, čo asi už čoskoro vyústi do „umelej všeobecnej inteligencie“ (AGI), ktorá bude schopná zlepšovať sa sama aj bez zásahu človeka. Už teraz tím výskumníkov, ktorý analyzoval GPT-4, uviedol, že má „záblesky“ pokročilej všeobecnej inteligencie.
Keď sa AI dokáže sama zdokonaľovať, už nebudeme mať možnosť vedieť, čo bude robiť alebo ako ju môžeme kontrolovať. Superinteligentná AI bude totiž schopná obísť analytikov, programátorov či kohokoľvek iného. Superinteligentná AI bude schopná urobiť za sekundu to, čo by tímu softvérových inžinierov trvalo hoci aj celý rok. Alebo si zoberme akúkoľvek inú úlohu, napríklad návrh škodlivého softvéru, ktorý sa nebude dať odhaliť ani zneškodniť. Alebo vývoj zbraňového systému, proti ktorému budú všetky existujúce zbrane a svetové armády úplne bezmocné. Nebudeme schopní ovládať superinteligentnú AI, nebudeme schopní ju vypnúť, pretože takáto AI bude mať premyslené všetky možné spôsoby, ako by sme to mohli urobiť, a podnikne kroky, aby tomu zabránila.
Ďalší významný moment bude, keď dôjde k prepojeniu AI s fyzickým svetom, keď budú systémy AI zabudované do robotov, ktoré budú schopné fungovať v reálnom svete, a nie iba vo virtuálnom digitálnom svete. Ak budú disponovať rovnakým stupňom superinteligencie, budú sa, samozrejme, snažiť replikovať sa a zdokonaľovať exponenciálnym tempom. A odtiaľ vedie priama linka k osudu sveta z filmovej série Terminátor. Tento scenár asi ani netreba ďalej rozvíjať.
Ľudstvo aj v minulosti už čelilo podobným výzvam, keď sa objavil nový fenomén, ktorý ponúkal mnoho príležitostí, ale prinášal aj nové hrozby. Či už to bol objav ohňa, alebo jadrovej energie, vždy sme boli my tí inteligentnejší a našli sme spôsob, ako tieto živly skrotiť a využiť vo svoj prospech. Tak pevne dúfam, že to zvládneme aj tentoraz.
Zaujímavé čítanie júnového vydania vám praje
