CEO OpenAI má obavy z presvedčovacích schopností AI

Sam Altman, generálny riaditeľ spoločnosti OpenAI stojacej za populárnou AI platformou ChatGPT, varuje, že systémy AI by nakoniec mohli byť schopné „nadľudského presviedčania“. Očakáva, že túto schopnosť nadobudnú skôr, ako prekonajú ľudí vo všeobecnej inteligencii. Dodal, že by to mohlo „viesť k veľmi zvláštnym výsledkom“. Altman tak vyjadril obavy z toho, čoho by mohla byť nakoniec schopná rýchlo sa rozvíjajúca technológia AI, pričom niektorí špekulujú, že táto technológia môže prekonať kognitívne funkcie ľudí.

Zatiaľ čo Altman nešpecifikoval, ako presne môžu vyzerať „zvláštne výsledky“, o ktorých sa zmienil, niektorí experti sa pýtajú, nakoľko sú takéto obavy oprávnené. Christopher Alexander, hlavný analytik Pioneer Development Group, hovorí, že existuje hrozba presvedčivej AI, ale nie tak, ako si ľudia myslia. „AI neodhalí nejaké podprahové kódované posolstvo, ktoré by ľudí zmenilo na bezduchých zombie,“ povedal. „Strojové učenie a rozpoznávanie vzorov bude znamenať, že umelá inteligencia bude veľmi dobrá v určovaní toho, ako presvedčivý obsah funguje, v akej frekvencii a v akom čase. To sa už deje v oblasti digitálnej reklamy. Novšie, sofistikovanejšie systémy AI sa v tom budú zlepšovať.“

Pokiaľ ide o premenu ľudí na „nemysliacich zombíkov“, Aiden Buzzetti, prezident projektu Bull Moose, hovorí, že „sociálne siete to už robia a je ťažké ich prekonať“. Skutočnou otázkou by podľa neho bolo, kedy sa umelá inteligencia vyrovná ľudskej inteligencii alebo ju prekoná. Na druhej strane Phil Siegel, zakladateľ Centra pre pokročilú pripravenosť a simuláciu reakcie na hrozby (Center for Advanced Preparedness and Threat Response Simulation – CAPTRS), tvrdí, že „už sme v tomto bode“ a niektoré technológie AI už majú takúto presvedčovaciu schopnosť.

„Keby záškodník nakódoval algoritmus umelej inteligencie tak, aby zneužil údaje alebo urobil nesprávne závery, myslím, že by mohol presvedčiť, že je to správne,“ povedal Siegel. No dodáva, že aj odborníci „často presviedčajú ľudí o veciach, ktoré sa neskôr ukážu ako nepravdivé“. Riešenie je podľa neho rovnaké. Treba pochybovať „a neakceptovať odpovede od odborníkov či strojov ako hotovú vec bez toho, aby sme ich overili“. „Je logické, že keď sa AI učí simulovať ľudské správanie, učí sa aj oklamať náchylných ľudí a páchať podvody,“ povedal Jon Schweppe, politický riaditeľ American Principles Project. „Vyčkajme pár rokov a možno budeme mať AI androidov kandidujúcich do Kongresu.“

Zdroj: foxnews.com.