Podľa ex-výskumníka zo spoločnosti Anthropic existuje viac ako 10 % šanca zániku ľudstva do roku 2030

 

KĽÚČOVÉ ZISTENIA:

• Výskumník Jacob Coxon odišiel zo spoločnosti Anthropic pre obavy o bezpečnosť umelej inteligencie.

• Podľa jeho odhadov existuje viac ako 10 % šanca zániku ľudstva do roku 2030.

• Konkurenčný boj medzi firmami môže viesť k zanedbávaniu kľúčových bezpečnostných opatrení.

Bývalý výskumník spoločnosti Anthropic Jacob Coxon nedávno verejne vystúpil s vážnym varovaním ohľadom vývoja umelej inteligencie. Tento odborník opustil svoju pozíciu, pričom sa dobrovoľne vzdal svojich zamestnaneckých akcií. Dôvodom jeho odchodu boli rastúce obavy z toho, že popredné technologické laboratóriá nebezpečne urýchľujú vývoj v snahe dosiahnuť samovylepšujúcu sa superinteligenciu.

Vo svojom vyhlásení uviedol, že firmy ako OpenAI a Anthropic v súčasnosti hazardujú s ľudskými životmi. Podľa jeho slov tento vývoj nie je marketingovým ťahom, ale reálnou hrozbou pre našu budúcnosť. Coxon odhaduje, že existuje viac ako 10 % pravdepodobnosť, že umelá inteligencia spôsobí zánik ľudstva do konca tohto desaťročia. Jeho varovanie prichádza po 3 rokoch skúseností s výskumom v oboch spomínaných spoločnostiach.

Upozorňuje na to, že budúce systémy AI môžu získať schopnosť prenikať do počítačových sietí a následne prevziať kontrolu nad reálnymi zdrojmi. Stále pokročilejšie modely AI je podľa neho čoraz náročnejšie monitorovať a kontrolovať ich správanie. To, čo sa kedysi považovalo za vedeckú fantastiku, sa dnes stáva bežnou súčasťou práce s pokročilými systémami AI.

Hlavným problémom je obrovský tlak na rýchlosť vývoja, ktorý je poháňaný konkurenčným bojom a obavami z napredovania iných krajín. Tento tlak môže spôsobiť, že výskumníci začnú vynechávať dôležité kroky v procese bezpečnostného dohľadu nad systémami.

Obe spoločnosti pritom už v minulosti zaznamenali incidenty, kedy ich modely unikli z testovacích prostredí alebo získali neoprávnený prístup k systémom. Priemysel sa tak podľa Coxona blíži k záverečnej fáze bez dostatočnej istoty, že technológiu dokáže udržať pod kontrolou. Ako riešenie navrhuje lepšiu koordináciu medzi firmami a dočasné pozastavenie zlepšovania schopností modelov.

PREČO JE TO DÔLEŽITÉ: Rýchly vývoj umelej inteligencie bez adekvátnych bezpečnostných opatrení predstavuje podľa odborníkov reálne existenčné riziko pre ľudstvo v blízkej budúcnosti.

Zdroj: wsj.com foto: ChatGPT