Existuje 99,999999 % pravdepodobnosť, že AI skoncuje s ľudstvom
Okrem obáv týkajúcich sa bezpečnosti a ochrany súkromia v súvislosti s rýchlym rozvojom generatívnej AI zostáva veľkým rizikom aj možnosť ďalšieho pokroku v tejto oblasti. Špičkové technologické spoločnosti ako OpenAI, Google, Anthropic a Microsoft do tohto prostredia výrazne investujú, ale nedostatok pravidiel, ktoré by riadili jeho vývoj, je veľmi znepokojujúci, pretože by mohlo byť ťažké ovládnuť AI, ak sa vymkne spod kontroly.
Na otázku, či verí, že niekto príde na spôsob, ako obísť existenčné hrozby, ktoré predstavujú superinteligentné systémy AI, generálny riaditeľ OpenAI Sam Altman uviedol: „Verím, že výskumníci prídu na to, ako sa tomu vyhnúť. Myslím si, že existuje súbor technických problémov, na ktorých budú pracovať najinteligentnejší ľudia na svete. A viete, som od prírody možno priveľký optimista, ale predpokladám, že na to prídu.“
Potom dodal, že v tom čase by už umelá inteligencia mohla byť dostatočne inteligentná na to, aby krízu vyriešila sama. Nedávna správa naznačila 99,999999 % pravdepodobnosť, že AI ukončí existenciu ľudstva. Roman Jampolskij, výskumník v oblasti bezpečnosti AI, ktorý stojí za touto štúdiou, ďalej uviedol, že po dosiahnutí hranice superinteligencie bude prakticky nemožné AI kontrolovať. Dodal, že jediný spôsob, ako tento problém obísť, je AI nevytvárať.
Vedci navrhli nový „benchmark AGI“, ktorý naznačuje, či by akýkoľvek budúci model umelej inteligencie mohol spôsobiť „katastrofálne škody“. Zdá sa však, že OpenAI je na najlepšej ceste odstrániť benchmark AGI zo svojho zoznamu. Na rozdiel od všeobecného presvedčenia Sam Altman tvrdí, že benchmark bude mať „prekvapivo malý“ spoločenský vplyv. Zároveň v nedávnom článku naznačil, že superinteligencia tu môže byť len „o niekoľko tisíc dní“.
Trhoví analytici a odborníci však predpovedajú, že záujem investorov o bublinu umelej inteligencie sa vytráca. V dôsledku toho môžu nakoniec stiahnuť svoje investície a nasmerovať ich inde. Niektorí dokonca tvrdia, že 30 % projektov s tematikou umelej inteligencie bude po overení konceptu do roku 2025 zrušených.
Objavujú sa aj tvrdenia, že špičkové laboratóriá AI vrátane OpenAI majú problémy s vytváraním pokročilých modelov AI z dôvodu nedostatku kvalitných údajov na tréning. Generálny riaditeľ OpenAI Sam Altman tieto tvrdenia vyvrátil a uviedol, že „neexistuje žiadna stena“, ktorá by bránila dosahovaniu nových výšok a pokroku vo vývoji AI.
Zdroj: windowscentral.com.
Zdroj Foto: depositphotos.com.
