SAMSUNG_062022 Advertisement SAMSUNG_062022 Advertisement SAMSUNG_062022 Advertisement

Kto ponesie zodpovednosť za zlyhania robotov a autonómnych áut?

Bezpečnosť
0

Pokroky v robotike znamenajú, že autonómne vozidlá, priemyselné roboty a lekárske roboty budú v priebehu nasledujúcich 20 rokov šikovnejšie a nezávislejšie. Autonómne stroje by však mohli robiť chyby v rozhodovaní, ktoré by viedli k stovkám tisícov úmrtí, ktorým by sa dalo predísť, keby boli v procese zapojení ľudia. Preto je potrebné, aby spoločnosť prijímala robotické technológie zodpovedne. Roboty nie sú „naprogramované“ ľuďmi, aby napodobňovali ľudské rozhodovanie; učia sa z veľkých súborov údajov vykonávať úlohy, napr. „rozpoznať červenú na semafore“ pomocou zložitých matematických vzorcov odvodených z údajov.

Tento proces strojového učenia si vyžaduje oveľa viac údajov, ako potrebujú ľudia. Po zaškolení by však roboty prekonali ľudí v akejkoľvek zadanej úlohe. Vezmime si ako príklad autonómne vozidlá. Skúsený ľudský vodič môže za svoj život najazdiť niekoľko stoviek tisíc kilometrov. No autonómne autá spoločnosti Waymo patriacej Googlu len v roku 2021 absolvovali viac ako 2,3 milióna najazdených kilometrov. Navyše tieto autá sa nikdy neunavia a nikdy nezabudnú, čo sa naučili.

Keď Tesla prvýkrát spustila svoju funkciu inteligentného privolania (smart summon), ktorá jej autám umožnila opustiť parkovacie miesto a obchádzať prekážky bez ich majiteľa, mnohí používatelia sa sťažovali na jej slabiny. Počas niekoľkých týždňov však Tesla zhromaždila údaje od prvých používateľov a preškolila svoje modely strojového učenia. V dôsledku toho sa výkon funkcie inteligentného privolania výrazne zlepšil. S čoraz väčším množstvom údajov, z ktorých sa možno učiť, sa AI rýchlo zlepšuje, stáva sa presnejšou, prispôsobivejšou a bezpečnejšou.

Nárast počtu robotov a rozširovanie ich aplikácie signalizuje postupné zavádzanie funkčnej robotiky.  S prechodom od jednoduchých robotov k zložitým sa bude zhromažďovať viac údajov na zlepšenie výkonnosti a bezpečnosti. Spoločnosť RAND Corporation zistila, že autonómne vozidlá zachránia množstvo životov, aj keď budú len o 10 % bezpečnejšie ako ľudia. Stále je tu však je etická dilema, pri ktorej môže pozorovateľ zachrániť päť životov pred zlyhávajúcim autom tým, že ho odkloní, aby zabil len jedného človeka.

Tento problém ilustruje, prečo je rozhodovanie o tom, kto bude žiť a kto zomrie, v podstate morálny úsudok, ktorý nemožno zveriť strojom. Táto „morálna dilema“ je ešte horšia tým, že vnímanie robotov a ľudí sa líši, čo vedie k rôznym typom chýb. Roboty majú síce bleskové reflexy, ale môžu nesprávne identifikovať nebezpečenstvo.

Napríklad autonómne vozidlo spoločnosti Uber považovalo chodca tlačiaceho bicykel cez cestu za auto, a tak očakávalo, že pôjde rýchlejšie. Ak médiá neprimerane odsúdia každé úmrtie spôsobené robotom, môže to zničiť dôveru v autonómne systémy, a to napriek potenciálu tejto technológie zachrániť milióny životov. Keď ľudskí vodiči spôsobia smrteľné nehody, musia byť odsúdení a musia niesť právne dôsledky.

No „čierna skrinka umelej inteligencie“ nedokáže sudcovi a verejnosti vysvetliť svoje rozhodovanie ľudsky zrozumiteľným alebo právne a morálne ospravedlniteľným spôsobom. Ďalší problém je zodpovednosť. Môže výrobca automobilu, poskytovateľ algoritmu umelej inteligencie alebo inžinier, ktorý algoritmus napísal, niesť zodpovednosť a zaručiť sa za robota? Iba ak je jasná zodpovednosť, môže sa okolo nej vybudovať zdravý ekosystém.

Zdroj: weforum.org.

Zobrazit Galériu

Redakcia

Všetky autorove články

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať