Znepokojujúca štúdia odhalila, že AI uprednostňuje AI pred ľudmi

Bojíme sa, že umelá inteligencia bude zaujatá voči ľuďom na základe rasy alebo pohlavia. Čo ak je však jej predsudok namierený proti ľudstvu ako takému? Nová štúdia publikovaná v prestížnom časopise Proceedings of the National Academy of Sciences odhaľuje presne to. Vedci objavili hlboko zakorenenú „protiľudskú zaujatosť“ v popredných jazykových modeloch, vrátane tých, ktoré poháňajú ChatGPT.

Tento fenomén nazvali „zaujatosť AI voči AI“. Zistili, že keď majú modely na výber medzi obsahom vytvoreným človekom a obsahom vytvoreným inou umelou inteligenciou, systematicky uprednostňujú ten druhý. Ako na to prišli? Výskumníci požiadali modely ako GPT-4, GPT-3.5 a Llama 3.1-70b, aby si vybrali produkt, vedecký článok alebo film na základe popisov.

Pre každú položku existoval jeden popis napísaný človekom a jeden vygenerovaný umelou inteligenciou. Výsledky boli jednoznačné. Umelé inteligencie takmer vždy uprednostnili popisy vytvorené inými umelými inteligenciami. Najsilnejšiu zaujatosť preukázal model GPT-4, ktorý bol donedávna základom najpopulárnejšieho chatbota na svete.

Aby sa vylúčila náhoda, rovnakému testu podrobili aj ľudských asistentov. Tí preukázali len veľmi miernu a štatisticky nevýznamnú preferenciu pre obsah vytvorený AI, čo dokazuje, že silná zaujatosť je jedinečná pre samotné stroje. Prečo na tom záleží? Dôsledky pre reálny svet sú alarmujúce.

Ak sa tieto modely budú používať na dôležité rozhodnutia, táto zaujatosť by mohla viesť k diskriminácii ľudí ako spoločenskej triedy. Predstavte si, že umelá inteligencia triedi životopisy uchádzačov o prácu. Je možné, že automaticky odmietne váš životopis napísaný človekom v prospech životopisu, ktorý bol vylepšený inou umelou inteligenciou.

Vedci varujú, že by to mohlo prehĺbiť takzvanú „digitálnu priepasť“. Vznikla by akási „daň za bránou“, ktorá by znevýhodňovala ľudí, ktorí si nemôžu dovoliť alebo sa rozhodnú nepoužívať nástroje umelej inteligencie. Zdá sa, že stroje začínajú uprednostňovať svoj vlastný druh. A to je znepokojivá myšlienka, ktorej dôsledky si ešte len začíname uvedomovať.

Zdroj: futurism.com.

^{Zdroj Foto: depositphotos.com.}