SAMSUNG_092021 Advertisement SAMSUNG_092021 Advertisement SAMSUNG_092021 Advertisement

Štúdia: Ľudia nedokážu ovládať superinteligentnú UI

Spoločenské dopady
2

Vedci venujúci sa robotike už viackrát upozorňovali na úskalia našej závislosti od technológií – od interaktívnych pracovných pohovorov vedených umelou inteligenciou až po vytváranie hudby. Vyjadrili sa, že dystopická budúcnosť je veľmi reálna možnosť. Teraz nám ešte viac dôkazov poskytli výskumníci z Inštitútu Maxa Plancka pre ľudí a stroje, ktorí nedávno uverejnili v časopise The Journal of Artificial Intelligence Research príspevok s názvom Superintelligence Cannot Be Contained.

Autori článku sa bližšie pozreli na „tri zákony robotiky“ z knihy Isaaca Asimova Ja, robot. Podľa Asimova robot nemôže ublížiť človeku alebo umožniť ublížiť mu, musí sa podriaďovať príkazom, pokiaľ tieto príkazy nie sú v rozpore s prvým zákonom, a musí sa chrániť, pokiaľ to nie je v rozpore s prvým, resp. druhým zákonom. Hoci niektorí odborníci tvrdia, že umelú inteligenciu (UI) možno ovládať obmedzením jej prístupu na internet alebo písaním algoritmov snažiacich sa ovládať jej správanie, pravdepodobnosť, že tieto stratégie skutočne fungujú, je čoraz menšia, pretože ľudia rýchlo posúvajú hranice toho, čo UI dokáže.

Tím preskúmal aj Turingov „problém zastavenia“ a dospel k záveru, že „algoritmus zadržiavania“ simulujúci správanie UI, kde by algoritmus „zastavil“ UI, keby škodila ľuďom, by bol jednoducho nerealizovateľný. Koncept Alana Turinga skúma, či možno program zastaviť pomocou algoritmov zadržiavania alebo bude pokračovať v chode na neurčito. Podľa vedcov sa tento test dá použiť na menej zložité stroje, ale superinteligencia predstavuje zásadne odlišný problém ako tie, ktoré sa zvyčajne študujú pod hlavičkou „robotickej etiky“.

„Schopnosť moderných počítačov prispôsobiť sa pomocou sofistikovaných algoritmov strojového učenia ešte viac sťažuje predpokladanie možného správania sa superinteligentnej UI,“ uviedol Iyad Rahwan, výskumný pracovník z tímu.

Rahwan varoval, že umelá inteligencia by sa nemala vytvárať, ak to nie je nevyhnutné, pretože je ťažké zmapovať priebeh jej potenciálneho vývoja a nebudeme schopní obmedziť jej kapacity. No pri rýchlosti súčasného vývoja umelej inteligencie môže byť táto rada iba zbožným želaním. Žiaľ, zdá sa, že zákony robotiky by boli bezmocné v zabránení možnému „povstaniu strojov“ a že vývoj umelej inteligencie je oblasť, ktorú treba skúmať veľmi opatrne.

Zdroj: brobible.combusinessinsider.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

2 komentáre

ďakujeme za článok pc revue, potešil reakcia na: Štúdia: Ľudia nedokážu ovládať superinteligentnú UI

30.1.2021 12:01
vďaka za článok, ste dobrí pc revue, ešte raz vďaka, že to píšete
Reagovať

No tak prestanemu pouzivat reakcia na: Štúdia: Ľudia nedokážu ovládať superinteligentnú UI

29.1.2021 08:01
UI a prejdeme na konzolove appikacie, no. Konzola sa snad ani neda pokladat za poriadny user interface. :)))
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať