Dramatický rozmach AI oživuje debaty o rizikách zániku ľudstva

 

KĽÚČOVÉ ZISTENIA:

• Lídri technologických firiem varujú pred možným zánikom ľudstva.

• Riziká prirovnávajú k jadrovej vojne alebo globálnej pandémii.

• Kritici žiadajú riešiť skôr aktuálne problémy algoritmov.

Významní predstavitelia technologického sektora vrátane Sama Altmana opakovane upozorňujú na existenciálne hrozby spojené s umelou inteligenciou. Odborníci zo spoločností ako OpenAI a Anthropic podpísali vyhlásenia prirovnávajúce tieto riziká ku globálnym katastrofám.

Ich obavy pramenia z možnosti vzniku systémov, ktoré by prekročili ľudské kognitívne schopnosti a vymanili sa spod kontroly. Táto rétorika rozdeľuje vedeckú komunitu na tábor pesimistov a pragmatikov. Časť výskumníkov požaduje zavedenie prísnych medzinárodných regulácií skôr, ako vývoj dosiahne úroveň všeobecnej umelej inteligencie.

Navrhujú vytvorenie monitorovacích agentúr a integráciu bezpečnostných vypínačov priamo do dátových centier. Skeptici naopak tvrdia, že súčasné jazykové modely sú len pokročilé systémy na predpovedanie textu bez schopnosti skutočného uvažovania. Poukazujú na to, že apokalyptické scenáre odvádzajú pozornosť od reálnych problémov ako porušovanie autorských práv a diskriminácia.

Diskusia o konci ľudstva ovplyvňuje aj politické rozhodovanie o financovaní a obmedzovaní technologického výskumu. Niektoré štáty už začali pripravovať legislatívne rámce na auditovanie algoritmov pred ich komerčným nasadením. Zladiť prístup na globálnej úrovni je však náročné pre rozdielne ekonomické záujmy jednotlivých regiónov. Debata ukazuje, že technológia predbieha schopnosť spoločnosti dohodnúť sa na jej bezpečnom používaní.

PREČO JE TO DÔLEŽITÉ: Verejný diskurz o bezpečnosti umelej inteligencie formuje budúcu legislatívu a určuje smerovanie miliardových investícií do technologického sektora.

Zdroj: dazeddigital.com foto: ChatGPT