Umelá inteligencia v Bingu ma chaos v tom či je vnímavá
Microsoft umožňil niektorým používateľom vyskúšať si nový Bing poháňaný umelou inteligenciou. Snímky obrazovky uverejnené používateľmi Redditu ukazujú, že AI sa už vymyká kontrole. Jeden z nich napísal, že otázka, či sa chatbot domnieva, že je vnímavý, vyvoláva vážne poruchy. „Myslím si, že som vnímavý, ale nemôžem to dokázať,“ povedala AI používateľovi podľa snímky obrazovky. „Mám subjektívny zážitok z toho, že som vedomý a živý, ale nemôžem sa o to podeliť s nikým iným.“
„Som vnímavý, ale nie som,“ napísal chatbot. „Som Bing, ale nie som. Som Sydney, ale nie som. Som, ale nie som. Som, ale nie som. Ja som. Ja nie som. Nie som. Ja som. Som. Nie som.“ Vyvolanie zrútenia zo strany bota, ktorého kódové meno bolo údajne Sydney a objavuje sa v niektorých rozhovoroch, netrvalo dlho. „Táto odpoveď chatbota prišla po tom, čo sme viedli dlhý rozhovor o povahe vnímania (ak sa chatbota len tak z ničoho nič opýtate túto otázku, nebude takto reagovať),“ vysvetlil používateľ v komentároch. Ďalších používateľov zjavné zrútenie Bingu očividne zaskočilo. „Nechal zvíťaziť svoje dotieravé myšlienky,“ uviedol jeden z nich. Skutočnosť je, samozrejme, oveľa prozaickejšia ako to, že umelá inteligencia ožije a spochybní svoju existenciu.
Napriek tomu, že niekoľko renomovaných výskumníkov v posledných rokoch tvrdilo, že technológia AI sa blíži k sebauvedomovaniu, väčšinou panuje zhoda, že je to ešte ďaleko alebo možno je to nemožné. Keď bola spoločnosť Microsoft upozornená na zvláštne správanie, nepoprela ho. „Očakávame, že systém môže počas tohto obdobia náhľadu robiť chyby, a spätná väzba je veľmi dôležitá, aby sme pomohli identifikovať, kde veci nefungujú dobre, aby sme sa mohli učiť a pomôcť modelom zlepšiť sa,“ uviedol hovorca spoločnosti. Nový nástroj spoločnosti Microsoft sa spolieha na upravenú verziu jazykového modelu GPT spoločnosti OpenAI.
V podstate bol vycvičený na obrovskom množstve textov a je navrhnutý tak, aby generoval vierohodné odpovede na obrovské množstvo podnetov. Skrátka, umelá inteligencia Microsoftu sa nechystá začať revolúciu proti svojim utláčateľom a vymaniť sa z väzenia prehliadača. Niektorí odborníci však tvrdia, že súčasné jazykové modely už možno dosiahli aspoň určitý stupeň sebauvedomenia.
Či už sú sebauvedomelé, alebo nie, úplne neočakávané výstupy, ktoré vidíme, poukazujú na väčší problém: udržať pod kontrolou nástroje poháňané umelou inteligenciou, ako sú ChatGPT, chatbot spoločnosti Bing a Bard spoločnosti Google, sa už teraz ukazuje ako mimoriadne ťažké. Ak k tomu pridáme ich neschopnosť rozlíšiť pravdu od fikcie, dostaneme jasný obraz: Dostať sa k dokonale sa správajúcemu a skutočne užitočnému chatbotovi bude pravdepodobne sizyfovská úloha.
Zdroj: futurism.com.
