Môže umelá inteligencia ovládnuť voľby a podkopať demokraciu?
Mohli by organizácie využívať jazykové modely umelej inteligencie, ako je ChatGPT, aby voličov prinútili správať sa špecifickým spôsobom? Túto otázku položil senátor Josh Hawley generálnemu riaditeľovi spoločnosti OpenAI Samovi Altmanovi počas jeho vypočutia v Kongrese. Altman odpovedal, že sa skutočne obáva, že niektorí ľudia by mohli používať jazykové modely na manipuláciu, presviedčanie a individuálne interakcie s voličmi. Altman to bližšie nešpecifikoval, ale možno mal na mysli niečo podobné ako tento scenár.
Predstavte si, že politickí technológovia čoskoro vyvinú stroj s názvom Clogger, ktorý neúnavne sleduje len jeden cieľ: maximalizovať šance, že jeho kandidát zvíťazí vo voľbách. Zatiaľ čo platformy ako Facebook, Twitter a YouTube využívajú formy umelej inteligencie, aby prinútili používateľov tráviť viac času na ich stránkach, umelá inteligencia Clogger by mala iný cieľ: zmeniť volebné správanie ľudí. Podľa odborníkov tak ako teraz inzerenti využívajú históriu vášho prehliadania a sociálnych sietí na individuálne zacielenie komerčných a politických reklám, Clogger by vám (a obrovskému počtu ďalších voličov) venoval individuálnu pozornosť.
Oproti súčasnému stavu algoritmickej manipulácie správania by priniesol tri pokroky. Po prvé, jeho jazykový model by generoval správy (možno vrátane obrázkov a videí) prispôsobené vám osobne. Jazykové modely ako ChatGPT môžu v priebehu kampane generovať nespočetné množstvo jedinečných správ pre vás osobne, ako aj milióny pre ostatných. Po druhé, Clogger by použil techniku nazývanú posilňovacie učenie (reinforcement learning) na generovanie postupných správ, ktoré by čoraz pravdepodobnejšie zmenili váš hlas. Posilňovacie učenie je strojové učenie, metóda pokusov a omylov, pri ktorej počítač vykonáva akcie a dostáva spätnú väzbu o tom, ktoré fungujú lepšie, aby sa naučil, ako dosiahnuť cieľ.
Po tretie, v priebehu kampane by sa správy Cloggera mohli vyvíjať tak, aby zohľadňovali vaše reakcie na predchádzajúce zásielky stroja, pričom by vychádzal z toho, čo sa naučil o zmene názorov ostatných. Clogger by bol v priebehu času schopný viesť dynamické „konverzácie“ s vami a s miliónmi ďalších ľudí. Správy Cloggera by boli podobné reklamám, ktoré vás sprevádzajú na rôznych webových stránkach a sociálnych sieťach. Za zmienku stoja ešte ďalšie tri funkcie. Po prvé, správy, ktoré Clogger posiela, môžu, ale nemusia mať politický obsah. Jediným zámerom stroja je maximalizovať podiel hlasov a na dosiahnutie tohto cieľa by pravdepodobne vymyslel stratégie, ktoré by žiadneho ľudského účastníka kampane nenapadli.
Jednou z možností je posielať pravdepodobným voličom protivníka informácie o ich nepolitických záľubách (šport, zábava), aby prekryli politické správy, ktoré dostávajú. Ďalšia možnosť je posielanie odpútavajúcich správ, napríklad rôznych reklám, načasovaných tak, aby sa zhodovali so správami oponentov. A ďalšia možnosť je manipulácia so skupinami priateľov voličov na sociálnych sieťach s cieľom vyvolať pocit, že ich sociálne kruhy podporujú jeho kandidáta. Po druhé, Clogger neberie ohľad na pravdu. V skutočnosti nemá možnosť zistiť, čo je pravda a čo nie.
„Halucinácie“ jazykového modelu nie sú pre tento stroj problémom, pretože jeho cieľom je zmeniť vašu voľbu, nie poskytnúť presné informácie. Po tretie, keďže ide o typ „čiernej skrinky“ umelej inteligencie, ľudia by nemali možnosť zistiť, aké stratégie používa. Oblasť vysvetliteľnej AI má za cieľ otvoriť čiernu skrinku mnohých modelov strojového učenia, aby ľudia pochopili, ako fungujú. Keby nástroj Clogger nasadil napríklad jeden kandidát v kampani prezidentských volieb, druhý by bol pravdepodobne nútený odpovedať rovnakým spôsobom, možno podobným strojom. Nazvime ho Dogger. Keby manažéri kampaní usúdili, že tieto stroje sú účinné, prezidentský súboj by sa mohol skončiť súbojom Clogger vs. Dogger a víťazom by sa stal klient účinnejšieho stroja.
Prezident by nebol zvolený preto, že jeho politické návrhy alebo politické myšlienky presvedčili viac ľudí, ale preto, že mal k dispozícii efektívnejšiu umelú inteligenciu. Voľby by teda vyhral skôr stroj ako človek. Už by to neboli demokratické voľby, hoci by sa uskutočnili všetky bežné činnosti demokracie - prejavy, reklamy, správy, hlasovanie a sčítanie hlasov. Prezidentove kroky by nemuseli nevyhnutne odrážať vôľu voličov. Tí by boli skôr manipulovaní umelou inteligenciou, než by si slobodne vyberali svojich politických vodcov.
Manipulácii volieb umelou inteligenciou by bolo možné zabrániť, keby sa kandidáti, kampane a poradcovia zriekli používania takejto politickej umelej inteligencie. No to je dosť nepravdepodobné. Pokušenie použiť takéto politicky účinné čierne skrinky by bolo takmer neodolateľné. A keď jeden z kandidátov použije takýto účinný nástroj, ťažko by sa dalo očakávať, že protikandidát neodpovie rovnako. Možno by pomohla zvýšená ochrana súkromia.
Clogger by bol závislý od prístupu k obrovskému množstvu osobných údajov, aby sa mohol zamerať na jednotlivcov, vytvárať správy prispôsobené ich presvedčeniu a manipulovať s nimi. Každý kúsok týchto informácií, ktorý by spoločnosti alebo tvorcovia politík odopreli stroju, by znížil jeho účinnosť. Regulačné orgány Európskej únie sa uberajú týmto smerom. Revidovali návrh zákona Európskeho parlamentu o umelej inteligencii a označili „systémy umelej inteligencie na ovplyvňovanie voličov v kampaniach“ za vysoko rizikové a podliehajúce regulačnej kontrole.
Jeden z ústavne bezpečnejších, aj keď menších krokov, ktoré už čiastočne prijali európske regulačné orgány pre internet, je zákaz vydávania sa botov za ľudí. Nariadenie môže napríklad vyžadovať, aby správy kampane prichádzali s vylúčením zodpovednosti, ak ich obsah generujú stroje, a nie ľudia. Možnosť systému, ako je Clogger, ukazuje, že cesta ku kolektívnemu manipulovaniu ľudí nemusí vyžadovať nadľudskú umelú všeobecnú inteligenciu. Stačia na to príliš zanietení aktivisti a konzultanti, ktorí majú nové výkonné nástroje, schopné efektívne stláčať mnohé tlačidlá miliónov ľudí.
Zdroj: gizmodo.com.
