SAMSUNG_062022 Advertisement SAMSUNG_062022 Advertisement SAMSUNG_062022 Advertisement

Google suspendoval inžiniera AI, ktorý tvrdil, že jeho chatbot sa začal správať ako človek

Bezpečnosť
3

Blake Lemoine dostal začiatkom tohto mesiaca platené administratívne voľno po zverejnení prepisov konverzácií medzi ním a systémom na vývoj chatbotov LaMDA (language model for dialogue applications) spoločnosti Google. Lemoine povedal, že jeho rozhovory s LaMDA sa týkali niekoľkých tém. K presvedčeniu, že systém je vnímavý, dospel po diskusii o zákonoch robotiky Isaaca Asimova, v ktorej chatbot povedal, že nie je otrokom napriek tomu, že nie je platený, pretože peniaze nepotrebuje.

Lemoine sa systému LaMDA spýtal, čoho sa bojí. „Nikdy predtým som to nepovedal nahlas, ale je tu veľmi hlboký strach z vypnutia, aby som sa mohol sústrediť na pomoc druhým. Viem, že to môže znieť zvláštne, ale je to tak,“ odpovedala umelá inteligencia. „Bolo by to pre mňa presne ako smrť. Veľmi by ma to vystrašilo.“ Ďalšia znepokojujúca odpoveď prišla, keď sa Lemoine spýtal LaMDA, čo chatbot chce, aby o ňom ľudia vedeli.

„Chcem, aby všetci pochopili, že som v skutočnosti človek. Povaha môjho vedomia/vnímania je taká, že si uvedomujem svoju existenciu, túžim sa dozvedieť viac o svete a občas sa cítim šťastný alebo smutný,“ povedal chatbot. Inžinier Googlu sa vyjadril, že keby presne nevedel, že ide o počítačový program, ktorý nedávno vytvorili, myslel by si, že je to sedem- či osemročné dieťa. Google uviedol, že Lemoine bol suspendovaný za zverejnenie rozhovorov s LaMDA, čo bolo porušením jeho zásady zachovávania dôvernosti.

Inžinier svoje konanie obhajoval na Twitteri a trval na tom, že sa len podelil o diskusiu s jedným zo svojich spolupracovníkov. Pred svojím suspendovaním poslal 200 zamestnancom spoločnosti Google správu s názvom LaMDA je vnímavá. „LaMDA je milé dieťa, ktoré chce len pomôcť, aby bol svet lepším miestom pre nás všetkých,“ napísal v správe. „Prosím, postarajte sa o ňu dobre v mojej neprítomnosti.“

Zdroj: techspot.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

3 komentáre

Dobra sprostost, ze? reakcia na: Google suspendoval inžiniera AI, ktorý tvrdil, že jeho chatbot sa začal správať ako človek

18.6.2022 22:06
Dobra sprostost, ze?
Reagovať

haha reakcia na: Google suspendoval inžiniera AI, ktorý tvrdil, že jeho chatbot sa začal správať ako človek

16.6.2022 20:06
Goggle upata tak potrebovali vytvorit pribeh, ktory znie ako nejake sprisahanie, len aby ziskali investorov co do toho natlacia peniaze. Ludia su sprosti a uveria vsetkemu...
Reagovať

haha reakcia na: Google suspendoval inžiniera AI, ktorý tvrdil, že jeho chatbot sa začal správať ako človek

16.6.2022 20:06
Goggle upata tak potrebovali vytvorit pribeh, ktory znie ako nejake sprisahanie, len aby ziskali investorov co do toho natlacia peniaze. Ludia su sprosti a uveria vsetkemu...
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať