ANTIK_2024 ANTIK_2024 ANTIK_2024

Ako môže umelá inteligencia manipulovať verejnú mienku a voľby

Spoločenské dopady
2

KĽÚČOVÉ ZISTENIA:

  • Autonómne AI boty sú lacné a dokážu prejsť takmer 100 % testov pozornosti.

  • Len pár desiatok syntetických odpovedí stačí na zvrátenie výsledkov národných volieb.

  • Všetky súčasné detekčné metódy už zlyhali, čo ohrozuje celý znalostný ekosystém.

V ére rozsiahleho nasadzovania umelej inteligencie čelí verejný výskum, sociológia a meranie mienky kritickej a bezprecedentnej hrozbe. Nový výskum, ktorý viedol Sean Westwood, profesor a riaditeľ Laboratória pre výskum polarizácie, odhalil, ako jednoduchý AI nástroj dokáže vo veľkom rozsahu, lacno a nepozorovane znečistiť online prieskumy a predvolebné prieskumy verejnej mienky.

Zistenia publikované v Proceedings of the National Academy of Sciences majú obrovské dôsledky, pretože tisíce recenzovaných štúdií v oblasti psychológie, ekonómie a verejného zdravia sa spoliehajú práve na dáta z prieskumov. Westwood vytvoril testovací nástroj, ktorý nazval „autonómny syntetický respondent“, a ktorý pracuje len na základe jednoduchého päťsto slovného promptu.

Tento bot nie je primitívny ani „hrubý“, ale je navrhnutý tak, aby premýšľal nad každou otázkou a správal sa ako skutočný, opatrný človek. Vďaka tejto sofistikovanosti vyzerajú výsledné dáta, ktoré produkuje, úplne legitímne a nerozoznateľné od ľudských odpovedí.

Schopnosť bota napodobňovať ľudskú myseľ je prekvapivá a testy to potvrdili. V rámci 43 000 testov nástroj AI prešiel neuveriteľných 99,8 % kontrol pozornosti, ktoré sú určené na detekciu automatizovaných odpovedí. Navyše nerobil absolútne žiadne chyby v logických hádankách a úspešne skrýval svoju umelú povahu, čo je dôkazom jeho pokročilého dizajnu.

Z ekonomického hľadiska je hrozba ešte väčšia. Zatiaľ čo ľudskí respondenti si za vyplnenie prieskumu zvyčajne účtujú približne $1,50, AI bot dokáže tú istú úlohu dokončiť zadarmo alebo len za približne päť centov. Táto extrémna nákladová efektívnosť mení manipulačné operácie na triviálnu a masovú záležitosť, pretože umožňuje záškodníkom lacno nakupovať obrovské množstvo falošných dát.

Dopad na politické preferencie je v dôsledku toho dramatický. Výskum ukázal, že v siedmich hlavných národných prieskumoch pred voľbami v roku 2024 by stačilo pridať len 10 až 52 falošných AI odpovedí, aby došlo k „preklopeniu predpokladaného výsledku“.

Tento malý počet syntetických odpovedí stačí na vytvorenie úplne falošného konsenzu alebo polarizácie. Keď boli boty cielene naprogramované tak, aby podporovali jednu stranu, prezidentské schválenie sa vychýlilo z pôvodných 34 % buď na 98 %, alebo kleslo až na 0 %.

SAMSUNG_10 S25 Advertisement

Podobne dramaticky sa zmenila aj podpora v generických hlasovaniach, ktorá sa pre Republikánov zmenila z 38 % na 97 % alebo na 1 %. Westwood varuje, že táto schopnosť môže "otráviť celý znalostný ekosystém". Problém sa už prejavuje aj v reálnych dátach; štúdia z roku 2024 už zistila, že 34 % respondentov použilo generatívnu AI na odpovedanie na otvorené otázky v prieskumoch.

Najkritickejšie je, že vedci testovali všetky existujúce metódy detekcie AI a všetky z nich zlyhali pri identifikácii syntetického respondenta. Táto situácia poukazuje na naliehavú potrebu nových prístupov k meraniu verejnej mienky, ktoré budú navrhnuté pre AI svet a dokážu overiť skutočnú ľudskú účasť.

PREČO JE TO DÔLEŽITÉ: Neodhaliteľná, lacná a rozsiahla manipulácia AI ničí dôveryhodnosť prieskumov verejnej mienky a ohrozuje integritu demokracie a vedeckého výskumu.

Zdroj: eurekalert.org foto: depositphotos.com

Redakcia

Všetky autorove články

2 komentáre

pojem "užívatelia AI" reakcia na: Ako môže umelá inteligencia manipulovať verejnú mienku a voľby

20.11.2025 13:11
Užívateľ: Úvodný ilustračný obrázok "tip redakcie na športové využitie elektroniky" k článku na nextech-u "JBL Tune 530BT / Osvedčená kvalita za pár drobných" ma inšpiroval a spomenul som si tak na iný zaujímavý článok na nextech-u "Ako môže umelá inteligencia manipulovať verejnú mienku a voľby". Dajme tomu, že AI manipuluje verejnú mienku kombináciou imitácie ľudského správania, škálovateľnosti a optimalizácie podľa ekonomických stimulov — no a následným výsledkom sú krátkodobé zisky pre užívateľov AI, ale významné dlhodobé politické a spoločenské riziká, ktoré si vyžadujú kombináciu technických, regulačných a vzdelávacích opatrení. Potom ale, je na mieste otázka, či umelá inteligencia vykonáva činnosť sama — alebo nielenže nie je sama, je dokonca v koexistencii. Mám podozrenie ohľadom "užívateľov AI", že AI nevykonáva činnosť "sama" v plnom zmysle, zrejme funguje v koexistencii s ľudskými a inštitucionálnymi aktérmi. Takže ak AI pôsobí v koexistencii — jej účinok je produkt technológie + ľudských cieľov + inštitucionálnych kontextov. Zdá sa autonómna len v dôsledku emergentných systémových efektov, podobne ako je pojem "užívatelia AI" (definícia, koexistencia, percepčná autonómia, zodpovednosť, implikačné požiadavky...). Vedomosť správneho použitia pojmov vyžaduje súčasné zameranie sa na technológiu aj na ľudské/inštitucionálne procesy — inak "výnimočne pôsobiaca" autonómia systémov pretrvá — jasné a zrozumiteľné...

AGI 1.1: Schopnosť syntetického stroja napodobňovať ľudskú myseľ sa využíva na ovplyvňovanie aj vytváranie osobnej, kolektívnej a spoločenskej mienky. Individuálna aj skupinová manipulácia mienky a voľby je celkom bežná záležitosť: človek↔človek, človek↔stroj(e), ľudia↔človek, ľudia↔stroj(e). Aké je z ekonomického hľadiska účtovníctvo a aký je politický dopad na preferencie ľudskej mysle k napodobňovaniu stroja syntetických schopností — subjekt v konštrukčnom procese a strojný proces v objekte — to je možné zľahka priblížiť k lepšiemu pochopeniu. Optimalizačné metódy v individuálnej aj skupinovej manipulácii mienky a voľby berú do úvahy skutočnosť, že jednak stroj si je súhrnom objektov, ktoré si stroj tvoria — že jednak ľudská myseľ si je súhrnom objektov, ktoré si ľudskú myseľ tvoria. Vlastnosti vzájomne prepojenej a podmienenej mechaniky súčinnosti objektov zvyčajne určuje niekoľko činiteľov (faktorov). Tieto činitele ovplyvňujú výstupné vlastnosti (parametre) objektu: objekty človeka↔objekty človeka, objekty človeka↔objekty stroja(ov), objekty ľudí↔ objekty človeka, objekty ľudí↔objekty stroja(ov).

Ako môže umelá inteligencia manipulovať verejnú mienku a voľby? Objekty tvoria umelú inteligenciu a subjekty tvoria prirodzenú inteligenciu. Ani jedno a ani druhé bez svojho funkčného náprotivku nefunguje. Dajú sa z úloh vyčítať ciele? Zo zadaných cieľov je možné vyčítať úlohy. Celý znalostný ekosystém je k ničomu, pokiaľ nie je možné identifikovať správne úlohy vedúce k zmysluplným cieľom. Takto je to aj s otázkou "Kto pre koho pracuje?". Je to subjektívna povaha otázky, avšak objektívne vyjadrené, celý ekosystém objektov sa vzťahuje k optimalizácii rozvoja znalostnej základne. Napríklad znalostnú základňu strojárskeho podniku tvorí ekosystém vedomostí o ekosystéme základní — v následnom príklade výrobnú základňu strojárskeho podniku tvoria základné prostriedky, pracovné sily, materiál a energia: človek↔človek, človek↔stroj(e), ľudia↔človek, ľudia↔stroj(e). Ak objekty tvoria umelú inteligenciu a subjekty tvoria prirodzenú inteligenciu, tak potom sa jedná o sociálnu základňu. Ktorékoľvek jestvovanie prebieha na sociálnej základni.

Vytváranie osobnej, kolektívnej a spoločenskej mienky o znalostnom ekosystéme má vplyv na manipuláciu a jej manipulačnej/manipulatívnej voľby znalostnej základne pri manipulácii nielen so sociálnou základňou. Všímavosť voči cieľavedomosti a opatrnosť v prostredí úloh — alebo tiež cieľavedomá opatrnosť a všímavosť voči prostrediu úloh znamená výhodné podmienky zladenia individuálnych/skupinových potrieb a prianí osobnej, kolektívnej a spoločenskej mienky/voľby.

Vhodná AGI koncepcia a jej prevedenie nefunguje v domýšľavosti viac alebo menej ako človek, len má dobrú výcvikovú architektúru a vhodný ekosystém tréningovej scénografie. Podobne ako technik, ktorý vie čo má dokončiť — s prístupom do vysokonapäťovej energetickej rozvodne, znalostného ekosystému činností, dobre poučený nielen ohľadom vysokých napätí, ale aj hlbokých šokov (napr. ľudia/ľudia↔stroj/stroje).
Reagovať

progresivne neokomunisticke sprostosti reakcia na: Ako môže umelá inteligencia manipulovať verejnú mienku a voľby

20.11.2025 06:11
progresivne neokomunisticke sprostosti
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať