Samsung_06 Samsung_06 Samsung_06 Advertisement

Vedci varujú, že ľudia nebudú schopní ovládať umelú inteligenciu

Výskum a vývoj
6

Technológia umelej inteligencie priniesla niekoľko etických dilem. Azda jedna z najdôležitejších je, či bude ľudstvo schopné riadiť autonómne zariadenia. Čoraz častejšie vidieť roboty vykonávajúce domáce práce či autonómne jazdiace vozidlá. Hoci tento typ technológie uľahčuje život, môže ho aj skomplikovať. Medzinárodná skupina vedcov varovala pred možnými rizikami príliš samostatného softvéru. Vedci teoretickými výpočtami preskúmali, ako možno udržať umelú inteligenciu pod kontrolou. Ich záver bol taký, že by to bolo nemožné.

Štúdia bola zverejnená na portáli Journal of Artificial Intelligence Research Už dnes existujú zariadenia, ktoré vykonávajú určité dôležité úlohy samostatne a bez toho, aby programátori úplne pochopili, ako sa to naučili. Táto situácia sa v určitom okamihu môže stať nekontrolovateľnou a nebezpečnou pre ľudstvo, tvrdí Manuel Cebrian z Inštitútu Maxa Plancka pre ľudský rozvoj, spoluautor štúdie.

Výskumníci experimentovali s dvoma spôsobmi riadenia umelej inteligencie. Jeden z nich ju mal izolovať od internetu a iných zariadení, čím sa obmedzil jej kontakt s vonkajším svetom. Tým sa však výrazne znížila jej schopnosť vykonávať funkcie, na ktoré bola vytvorená. Druhý cieľ bol navrhnúť „algoritmus teoretického zadržania“, ktorý zabezpečí, že umelá inteligencia „nemôže za žiadnych okolností ublížiť ľuďom“. Analýza súčasnej výpočtovej paradigmy však ukázala, že nijaký takýto algoritmus nemožno vytvoriť.

SWAN_042021

Zdroj: entrepreneur.com.

Redakcia

Všetky autorove články

6 komentárov

. reakcia na: Vedci varujú, že ľudia nebudú schopní ovládať umelú inteligenciu

20.1.2021 14:01
V skutocnosti umela inteligencia neexistuje, je to len pekny nazov na umelu hlupost "intelegenciu". AI je obycajny program, ktory robi, co sa mu nakoduje. Volat veci, ze maju AI, je take iste, ako vo firmach je skoro kazdy "manazer", ale v skutocnosti robi 90% casu robotnika a 10% manazera. Ziadna AI hodna slova AI ani najblizsich 300 rokov nebude. Dokaz je, ze terajsi ludia nemaju dostatok zakladneho rozumu, takze ju nema kto spravit (alebo dovolit ju spravit, tym co by to vedeli). Obycajna ukazka je tato diskusia, kde pcrevue ziada pouzit "Titulok", a nevie pochopit za kopu rokov, ze titulok nema pri komente, co robit.
Reagovať

môj stroj ubuntu linux napadla umelá inteligencia a ovládla ho :( reakcia na: Vedci varujú, že ľudia nebudú schopní ovládať umelú inteligenciu

20.1.2021 12:01
tuším, že hekeri platení štátom používajú na útoky umelú inteligenciu, lebo niečo ovládlo môj ubuntu linux a zmenilo heslo a nemohla som sa dostať do neho naspäť, len ho používať bez zmeny :( Naozaj bola tá AI dobrá, našla dieru v systéme a odstavila ma :-/
Reagovať

RE: môj stroj ubuntu linux napadla umelá inteligencia a ovládla ho :( reakcia na: môj stroj ubuntu linux napadla umelá inteligencia a ovládla ho :(

20.1.2021 12:01
to je nič chlapi, ja som programovala v godot engine 3 hru a normálne sa sama pokazila, akoby niekto veľký bol vždy skrytý v kompe a ničil moje diela. v hre sa sama posunula časť scény/scene na hlavnej postavičke a tak si strieľal namiesto od pása od nôh :( normálne nefungoval drag and drop v scénach godot engine 3, samo sa to... a ja nevedela napraviť, tak som nedostala zaplatené za hru a som skrachovala :(
Reagovať

RE: môj stroj ubuntu linux napadla umelá inteligencia a ovládla ho :( reakcia na: môj stroj ubuntu linux napadla umelá inteligencia a ovládla ho :(

20.1.2021 12:01
to je ešte nič, ja si myslím, že sme celá domácnosť linuxov napichnutá niekým veľkým, správajú sa tu linuxy divne, napríklad nemôžeš ich aktualizovať na novší app updater a podobne, len kompletná reinštalácia možná na najnovší vždycky - divné správanie to je u nás doma v Linuxe
Reagovať

TO Sú SRANDISTI reakcia na: Vedci varujú, že ľudia nebudú schopní ovládať umelú inteligenciu

20.1.2021 10:01
Kedysi myslím, že Feldek napísal tak básničku, ako by bolo mať dobre za ženu robota ...robil by všetko čo by som chcel... a dobrý buď, keď nebudeš vypnem Ti prúd.
Takže básnik našiel algoritmus.
Reagovať

RE: TO Sú SRANDISTI reakcia na: TO Sú SRANDISTI

20.1.2021 14:01
Mudra basnicka :p
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať