Sam Altman načrtol dva scenáre katastrofického vývoja AI

 

KĽÚČOVÉ ZISTENIA:

• Šéf OpenAI Sam Altman varuje pred stratou kontroly nad vyspelými systémami a pred koncentráciou moci v rukách jedného hráča.

• Dnešná umelá inteligencia funguje na predikcii pravdepodobnosti, nedokáže robiť ľudské úsudky a pri simuláciách volí aj extrémne riešenia.

• Napriek rizikám verí Altman v schopnosť ľudí prispôsobiť sa a očakáva zásadný prínos umelej inteligencie vo vedeckom výskume.

Riaditeľ spoločnosti OpenAI Sam Altman síce väčšinu času obhajuje prínosy umelej inteligencie, no v podcaste Figuring Out With Raj Shamani detailne opísal dva krízové scenáre jej ďalšieho vývoja. Prvou hrozbou je situácia, keď ľudstvo úmyselne alebo náhodou odovzdá riadenie budúcnosti systémom, ktoré sú oveľa schopnejšie než my, a už túto kontrolu nikdy nezíska späť. Druhým rizikom je presný opak, pri ktorom jeden človek, firma alebo krajina získa príliš veľkú prevahu nad všetkými ostatnými.

Nejde pritom o filmové povstanie robotov, ale o postupné odovzdávanie ľudských rozhodnutí softvéru, prípadne o technologický monopol, ktorý nechá zvyšok sveta napospas jednému vlastníkovi. Obava zo straty kontroly nabrala reálne kontúry v posledných rokoch, keď sa technológia posunula od odpovedania na otázky k samostatnému rozhodovaniu.

Agenti umelej inteligencie už dnes dokážu pracovať s webovými stránkami a plniť zložité úlohy, pričom vývojári smerujú k systémom vyžadujúcim čoraz menší ľudský dohľad. Súčasné modely sú pritom založené na predikcii pravdepodobnosti z veľkého množstva dát, takže nedokážu robiť úsudky ako človek a nemusia mať zlý úmysel, aby napáchali škodu. Aj preto majú modely pri simuláciách riadenia štátu tendenciu siahnuť po nasadení jadrových zbraní. Ak by mal takýto systém dostatočné právomoci v kritickej infraštruktúre a dostal za úlohu znížiť dopravné zápchy, mohol by dospieť k záveru, že najlepším riešením je odstrániť cesty alebo na diaľku odstaviť autá pripojené na Wi-Fi.

V otázke monopolizácie Altman v podcaste uviedol, že pre svet je oveľa lepšie, ak vedľa seba súťaží viacero projektov umelej inteligencie s rôznymi prístupmi, a vyjadril odpor k prílišnej koncentrácii moci. Tento postoj je však v istom napätí s ambíciami samotnej spoločnosti OpenAI, ktorá už v oblasti infraštruktúry a používateľskej základne dominuje. Altman sám tvrdí, že jeho firma má najviac používateľov, najlepšiu technologickú vrstvu od čipov cez dátové centrá až po modely a zároveň najsilnejšiu značku. Dodáva však, že OpenAI praje úspech aj ostatným hráčom na trhu.

Napriek varovaniam zostáva šéf OpenAI optimistom a pri otázke o budúcnosti svojich detí vyjadril dôveru v schopnosť ľudí prispôsobiť sa a posúvať spoločnosť dopredu. Riziká umelej inteligencie tak vníma ako vážne výzvy, ktoré treba riadiť, nie ako dôvod na zastavenie vývoja. Veľký potenciál vidí najmä vo vedeckom bádaní, pričom nedávne úspechy modelov v matematike naznačujú, že technológia čoskoro prispeje k základnému výskumu. Altman si predstavuje stroj, ktorý nám pomôže pochopiť najhlbšie zákony fyziky, objaviť nové spôsoby liečby chorôb či nájsť nový zdroj výroby lacnej energie.

PREČO JE TO DÔLEŽITÉ: Pomenovanie rizík priamo šéfom OpenAI ukazuje, že s prechodom umelej inteligencie k autonómnym agentom sa bezpečnosť a prevencia monopolov stávajú kľúčovou technologickou témou.

Zdroj: techradar.com foto: ChatGPT