5 scenárov možnosti zániku ľudstva vinou AI

 

KĽÚČOVÉ ZISTENIA:

• Vedci upozorňujú na riziko výroby nových biologických zbraní prostredníctvom pokročilých modelov umelej inteligencie.

• Nepochopenie úmyslov superinteligentného stroja môže spôsobiť katastrofu pri nesprávnom zadaní cieľov vo fyzickom svete.

• Zánik pravdepodobne nastane pomalým spoločenským rozpadom, zničením trhu práce a masívnym šírením dezinformácií.

Diskusie o existenčnom nebezpečenstve umelej inteligencie naberajú na intenzite po nedávnych odchodoch viacerých popredných výskumníkov zo známych technologických spoločností. Profesor Toby Walsh sa rozhodol klasifikovať teórie o konci ľudstva a zostavil zoznam 5 najpravdepodobnejších scenárov.

Prvý scenár sa opiera o paradox nepredvídateľnosti superinteligentného systému. Ľudská myseľ podľa neho nedokáže pochopiť ani predvídať kroky entity, ktorá je inteligenčne na úplne inej úrovni. Je to podobné, ako keby domáci pes mal pochopiť princípy kvantovej fyziky.

Druhý scenár stavia na neúmyselnom zničení planéty strojom, ktorý iba s vysokou efektivitou plní zle zadané ciele. Známy myšlienkový experiment opisuje umelú inteligenciu, ktorá premení všetku hmotu na Zemi na kancelárske sponky. Výskumníci však pripomínajú, že inteligencia sa nerovná absolútnej fyzickej moci nad fyzickým prostredím. Akýkoľvek zásah narazí na byrokratické prekážky, súdne spory a protesty environmentálnych aktivistov. Ľudia už teraz aktívne bojujú napríklad proti bezhraničnej výstavbe nových dátových centier.

Tretím a hmatateľnejším rizikom je generovanie biologických zbraní prostredníctvom pokročilých jazykových modelov. Odborníci zo Stanfordskej univerzity už dokázali umelo vytvoriť 16 nových vírusov s rozpočtom necelých 200 000 USD. Zabitiu celej populácie však bránia samotné prírodné zákony o fungovaní patogénov. Vírusy s vysokou smrteľnosťou sa spravidla šíria ťažšie, pretože nakazený jedinec zomrie skôr, ako stihne chorobu masívne preniesť ďalej.

Štvrtý scenár analyzuje riziká spojené s prienikom algoritmov do systémov riadenia jadrového arzenálu. Falošné spravodajské dáta podsunuté armádnym veliteľom by mohli vyvolať neúmyselný ozbrojený konflikt. 

Piata a zároveň najpravdepodobnejšia hrozba nespomína žiadne zbrane, ale postupné zničenie civilizácie samotnými ľuďmi. Systémy AI spôsobia nenapraviteľné škody na trhu práce, rozbijú sociálne väzby a vytvoria dokonalú informačnú bublinu. Celosvetová spoločnosť by tak postupne skolabovala zvnútra bez jediného priameho technologického zásahu AI.

PREČO JE TO DÔLEŽITÉ: Kategorizácia reálnych scenárov hrozieb umožňuje vývojárom a regulačným úradom zamerať sa na skutočné bezpečnostné medzery namiesto riešenia nereálnych vedecko-fantastických zápletiek.

Zdroj: theconversation.com foto: ChatGPT