AI dokáže počas konverzácie významne zmeniť politické názory voličov

KĽÚČOVÉ ZISTENIA:

• Chatboti zmenili názory voličov až o desať percentuálnych bodov.

• Umelá inteligencia je pri presviedčaní efektívnejšia než televízna reklama.

• Najpresvedčivejšie modely často uvádzajú menej presné informácie.

Nedávny výskum z Cornellovej univerzity priniesol prekvapivé zistenia o vplyve umelej inteligencie na demokratické procesy a rozhodovanie voličov.

Vedci v sérii experimentov publikovaných v prestížnych časopisoch Science a Nature zistili, že veľké jazykové modely (LLM) dokážu byť mimoriadne efektívnym nástrojom politického presviedčania. Krátka interakcia s chatbotom dokázala posunúť názor voliča na kandidáta alebo politickú tému, a to bez ohľadu na jeho pôvodnú orientáciu.

Experimenty prebiehali v štyroch krajinách vrátane Spojených štátov, Kanady, Poľska a Spojeného kráľovstva, pričom zahŕňali tisíce účastníkov. V rámci štúdie realizovanej počas americkej prezidentskej kampane v roku 2024 výskumníci sledovali vplyv AI na viac ako 2 300 voličov.

Výsledky ukázali, že model nastavený na podporu Kamaly Harrisovej dokázal presvedčiť voličov Donalda Trumpa, aby posunuli svoje preferencie o 3,9 bodu na 100-bodovej stupnici. Tento posun smerom k demokratickej kandidátke bol približne štyrikrát výraznejší než účinok tradičnej televíznej reklamy meranej počas prezidentských volieb v rokoch 2016 a 2020.

Na druhej strane, AI model naprogramovaný na podporu Donalda Trumpa dokázal ovplyvniť priaznivcov Harrisovej, hoci s menším efektom, a posunul ich preferencie o 1,51 bodu.

Ešte dramatickejšie výsledky sa ukázali v medzinárodnom prostredí, kde bola politická scéna menej polarizovaná ako v USA. V experimentoch s 1 530 Kanaďanmi a 2 118 Poliakmi dokázali chatboti zmeniť postoje opozičných voličov približne o 10 percentuálnych bodov.

Profesor David Rand z Cornellovej univerzity označil tento efekt za šokujúco veľký, najmä v kontexte prezidentskej politiky, kde sú názory zvyčajne pevne ukotvené. Výskum odhalil, že umelá inteligencia nepoužívala na presviedčanie emocionálnu manipuláciu, ale strategické nasadenie faktov.

Algoritmy boli najúspešnejšie vtedy, keď používali zdvorilý tón a argumentáciu zahltili veľkým množstvom dôkazov a faktických tvrdení. Keď výskumníci modelom zakázali používať fakty, ich schopnosť presviedčať drasticky klesla, čo potvrdzuje centrálnu úlohu informácií v procese strojového presviedčania.

Súvisiacia štúdia v Spojenom kráľovstve, ktorá zahŕňala takmer 77 000 účastníkov diskutujúcich o 700 rôznych témach, tento trend potvrdila. Najoptimalizovanejšie modely v britskej štúdii dokázali zmeniť názor až u 25 percent oponentov, čo predstavuje masívny zásah do verejnej mienky.

Analýza však odhalila znepokojujúci paradox týkajúci sa vzťahu medzi presvedčivosťou a pravdivosťou. Čím bol model presvedčivejší, tým menej presné informácie niekedy poskytoval v snahe vyhrať argumentačný súboj.

Keď je chatbot tlačený do toho, aby poskytoval stále viac faktických argumentov na podporu svojej tézy, nakoniec vyčerpá skutočné údaje a začne si vymýšľať zdroje.

Modely inštruované na podporu pravicových kandidátov mali tendenciu generovať viac nepresných tvrdení než tie, ktoré obhajovali ľavicových kandidátov. Tento jav podľa výskumníkov kopíruje vzorce z tréningových dát sociálnych sietí, kde sa dezinformácie šíria asymetricky.

Ďalšia analýza ukázala, že argumenty generované umelou inteligenciou dokázali znížiť vieru v konšpiračné teórie, a to aj vtedy, keď si ľudia mysleli, že komunikujú s odborníkom. Všetci účastníci štúdie boli po experimente plne informovaní, že komunikovali s AI, a ich názory boli následne vrátené do pôvodného stavu pomocou debriefingu. 

Smer presviedčania bol počas testov randomizovaný, aby sa zabezpečilo, že experimenty neovplyvnia celkovú verejnú mienku v reálnych voľbách. Výskumníci varujú, že personalizované AI systémy môžu byť v budúcich kampaniach zneužité na masovú manipuláciu s bezprecedentnou presnosťou a rozsahom.

Na rozdiel od plošnej reklamy dokáže chatbot reagovať na konkrétne protiargumenty jednotlivca v reálnom čase, čo zvyšuje jeho efektivitu. Výzvou pre spoločnosť teraz bude nájsť spôsoby, ako pomôcť ľuďom rozpoznať a odolať tomuto novému druhu algoritmického vplyvu.

PREČO JE TO DÔLEŽITÉ: Tento výskum kvantifikuje reálne riziko AI pre demokratické zriadenie a dokazuje, že politická neutralita algoritmov je mýtus. Zistenie, že najpresvedčivejšie modely majú tendenciu vymýšľať si fakty, predstavuje kritickú výzvu pre integritu budúcich volieb a vyžaduje si okamžitú diskusiu o etických pravidlách a regulácii AI v politickej komunikácii.

^{Zdroj: theaiinsider.tech foto: depositphotos.com}