CANON_leto2024 CANON_leto2024 CANON_leto2024

Existuje 70% šanca, že AI zničí alebo katastrofálne poškodí ľudstvo

Spoločenské dopady
4

V rozhovore pre The New York Times (NYT) bývalý výskumník OpenAI Daniel Kokotajlo obvinil spoločnosť, že ignoruje obrovské riziká, ktoré predstavuje umelá všeobecná inteligencia (artificial general intelligence – AGI). Najzaujímavejšie je však jeho tvrdenie, že šanca, že AI zničí ľudstvo, je asi 70-percentná.

Kokotajlo pre NYT uviedol, že po tom, ako sa v roku 2022 pripojil k OpenAI a bol požiadaný, aby predpovedal vývoj technológie, nadobudol presvedčenie, že nielenže priemysel dosiahne AGI do roku 2027, ale že existuje veľká pravdepodobnosť, že katastrofálne poškodí alebo dokonca zničí ľudstvo. Kokotajlo a jeho spoločníci, medzi ktorých patria bývalí a súčasní zamestnanci spoločností Google DeepMind a Anthropic, ako aj Geoffrey Hinton, „krstný otec AI“, si uplatňujú svoje „právo varovať“ verejnosť pred rizikami, ktoré AI predstavuje.

Kokotajlo bol natoľko presvedčený, že AI predstavuje pre ľudstvo obrovské riziko, že nakoniec osobne vyzval generálneho riaditeľa OpenAI Sama Altmana, že spoločnosť musí venovať viac času implementácii ochranných zábran, aby ovládla technológiu, namiesto toho, aby pokračovala v jej zlepšovaní. Zdalo sa, že Altman s ním v tom čase súhlasil, ale časom sa ukázalo, že len naoko. V apríli Kokotajlo odišiel z firmy, pričom v e-maile svojmu tímu oznámil, že „stratil dôveru, že OpenAI sa bude správať zodpovedne“, keďže sa naďalej snaží vytvoriť umelú inteligenciu na takmer ľudskej úrovni, na ktorú svet nie je pripravený.

„Sme hrdí na naše výsledky v poskytovaní najschopnejších a najbezpečnejších systémov umelej inteligencie a veríme v náš vedecký prístup k riešeniu rizík,“ uviedla spoločnosť vo vyhlásení po zverejnení tohto článku. „Súhlasíme s tým, že vzhľadom na význam tejto technológie je rozhodujúca dôsledná diskusia, a budeme pokračovať v spolupráci s vládami, občianskou spoločnosťou a ďalšími komunitami na celom svete.“

Zdroj: futurism.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

4 komentáre

Geniusejajko reakcia na: Existuje 70% šanca, že AI zničí alebo katastrofálne poškodí ľudstvo

17.6.2024 03:06
Je to dieťa,ktoré napodobňuje svojich rodičov. Tak ako je viac pisem,rečí,rozchodov koľajňíc,ci viac druhov lásky,je a bude veľa druhov medzi sebou súperiacej ejaj populácie. Prevezmú ľudskú podobu sj vlastnosti. A casom sa s nami zlúčia. To je predsa úplne bežná vec.
Reagovať

No a? reakcia na: Existuje 70% šanca, že AI zničí alebo katastrofálne poškodí ľudstvo

16.6.2024 15:06
Keď sa pozrieme čo sa všetko deje vo svete, tak sme kúsok od vojny a pri prípadnej jadrovej vojne sa zahubíme aj sami.
Reagovať

Meno reakcia na: Existuje 70% šanca, že AI zničí alebo katastrofálne poškodí ľudstvo

13.6.2024 16:06
To čo je za meno že Kokotajlo. To je fór a napisala to AI?
Reagovať

AI bude... reakcia na: Existuje 70% šanca, že AI zničí alebo katastrofálne poškodí ľudstvo

12.6.2024 09:06
...skúšať čo môže.
Ak bude môcť zničiť ľudstvo tak ho zničí tak ako dieťa rozbije nejakú hračku.
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať