AI nás môže zničiť rôznymi spôsobmi a preteky sa už začali

Bežná predstava o hrozbe umelej inteligencie (UI) sa často obmedzuje na stratu pracovných miest v dôsledku automatizácie. Odborníci z organizácií ako Center for AI Safety (CAIS) však varujú pred oveľa vážnejšími, katastrofickými rizikami, ktoré by mohli ohroziť samotnú existenciu ľudstva.  {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}} Tieto hrozby možno zhrnúť do štyroch hlavných kategórií, ktoré pripomínajú štyroch jazdcov apokalypsy. Prvým je zlomyseľné použitie, kde ľudia úmyselne využijú pokročilú AI na spôsobenie rozsiahlych škôd.   Umelá inteligencia môže dramaticky znížiť bariéry pre vývoj biologických a chemických zbraní. Výskumníci dokázali pomocou medicínskej AI v priebehu niekoľkých hodín navrhnúť 40 000 potenciálnych chemických bojových látok. Okrem toho môže byť AI použitá na vytváranie personalizovaných dezinformačných kampaní na destabilizáciu spoločnosti alebo na nasadenie ­autonómnych agentov so škodlivými cieľmi, ako bol experimentálny ChaosGPT, ktorého úlohou bolo „zničiť ľu ...