Čína má AI na odhalenie a potlačenie politických kritikov ešte skôr, než vôbec otvoria ústa

Keď štát a firmy spoločne učia AI vyhľadávať a manipulovať alternatívnu realitu

Koordinovaný kartel alebo kolúzia (tajná dohoda s pojmom „koordinácia kartelu“) medzi korporáciami a štátom (štátnym aparátom) nie je len teoretická hrozba — je to model vysvetľujúci, prečo sa moc a technológie sústredia bez primeranej kontroly. V jadre tejto hypotézy je jednoduchá výmena — štát žiada nástroje moci (technológiu monitorovania, cenzúru, analýzu dát, atď), korporácie dodávajú tieto nástroje a zároveň získavajú zisky, trhy a politickú imunitu. Keď sú záujmy spojené, vzniká systém, ktorý obhajuje svoje vlastné pokračovanie namiesto verejného dobra.

Takýto kartel sa netvorí iba cez otvorené dohody — často ide o spleť formálnych zmlúv, neoficiálnych kanálov, lobingu a personálnych prepojení. Firmy môžu financovať výskum, poskytovať softvér a hardvér cez subdodávateľské siete, alebo zamestnávať bývalých vládnych úradníkov (členovia/pracovníci súkromnej sféry sa zas naopak často stávajú členmi štátneho aparátu), ktorí potom presadzujú regulačné rámce priaznivé pre dodávateľov (alebo aj odberateľov). Štát môže odpovedať zákazkami, verejnými obstarávaniami alebo legislatívou, ktorá preferuje veľké, už etablované či preferované subjekty pred konkurenciou a občianskymi právami.

Ekonomická motivácia je kľúčová — centralizované dohody znižujú náklady a zvyšujú predvídateľný príjem pre korporácie, zatiaľ čo štát získa rýchly prístup k technológiám bez nutnosti vybudovať interné kapacity. To vedie k situácii, kde sa infraštruktúra moci privatizuje a kontrola sa presúva do rúk entít, ktoré nie sú priamo zodpovedné voličom ani širokej verejnosti. Výsledkom môže byť širšie používanie sledovacích systémov, menej transparentné postupy a menšia právna zodpovednosť pri zneužití.

Praktické známky kolúzie (tajnej dohody o programovej spolupráci) sú väčšinou skryté, no dajú sa identifikovať — opakované obchodné vzťahy medzi rovnakými firmami a vládnymi agentúrami — zmluvy s utajenými podmienkami alebo s obmedzenou verejnou kontrolou — personálne rotácie medzi regulátormi a firmami — aj finančné toky cez zložité vlastnícke štruktúry (a podobne). Najdôraznejším dôkazom bývajú interné dokumenty alebo svedectvá whistleblowerov/zasvätených informátorov, ktoré ukazujú úmyselné dohody o poskytovaní nástrojov moci výmenou za výhody.

Konsekvencie pre spoločnosť sú hlboké. Keď korporátny kartel a štátny aparát konajú spoločne, mechanizmy kontroly — súdy, médiá, občianska kontrola — môžu byť oslabené aj znemožnené či sfalšované, pretože prostriedky monitorovania a cenzúry sú navrhnuté tak, aby tlmili presne tie otázky, ktoré by mohli odhaliť kolúziu („tichá dohoda“). To mení rovnováhu medzi bezpečnosťou, ekonomickým rozvojom a základnými právami — rozhodnutia o technológiách a ich použití sa prestávajú robiť na základe verejného záujmu, avšak častejšie na základe províznych dohôd.

Hovorí sa, že odhaliť a rozbiť takýto kartel vyžaduje kombináciu novinárskeho vyšetrovania, právnych krokov a transparentných auditov. Často sa vysvetľuje, že to vyžaduje sledovanie peňažných tokov, otvorenosť zmlúv, prístup k technickým detailom systémov a ochranu pre whistleblowerov. Tiež sa povráva, že bez týchto nástrojov zostáva kolúzia dobre ukrytá v spleti zmlúv a technických termínov, ktoré bežný občan sotva rozpozná — a práve preto je verejná informovanosť a nezávislé overovanie kľúčové pre obnovenie rovnováhy moci. Všeličo sa vysvetľuje a povráva.

Predchádzajúci odstavec zostáva teoretickým rámcom — v praxi to vôbec neznamená „vniknúť“ alebo použiť násilie, ale systematicky preniknúť do logiky a rozhodovacích mechanizmov algoritmických systémov — porozumieť, ako sa modely učia, aké dáta ich formujú a kde sú návrhové voľby, ktoré určujú ich správanie. Skutočná zmena vyžaduje kolektívne úsilie na podkladovej úrovni — presadzovanie transparentných tréningových dát a auditov, verejných a demokraticky spravovaných datasetov/údajových množín, nastavovanie pravidiel pre hodnoty vložené do modelov, posilnenie digitálnej/duálnej/podvojnej gramotnosti občanov a participáciu civilnej spoločnosti pri definovaní cieľov a limitov týchto systémov. Len tak možno legálne a eticky „prevziať moc“ nad tým, čo sa modely učia, a zabezpečiť, že technológia bude slúžiť verejnému záujmu, nie skrytým kartelovým záujmom.

Napíšte si, teraz už samostatne ako domácu úlohu, ešte jeden textový odstavec o tom, že predchádzajúci odstavec je teória bez praxe — skutočná prax vyžaduje preniknúť do mysle tejto algoritmickej inteligencie zosieťovaných realitných štruktúr, zjednotiť sa na podkladovej úrovni a prevziať moc nad výučbou a výcvikom občianskej spoločnosti.

Ilustračný príklad: Samostatná „domáca úloha“ — dodatkový odstavec:

Nie je pravda, že skutočná prax si nevyžaduje mystický prienik do „mysle“ algoritmov, ale len praktické kroky — budovanie otvorených inštitútov, ktoré majú prístup k tréningovým dátam a modelom – organizovanie občianskych koalícií so zameraním na technické audity – vytváranie vzdelávacích programov, ktoré učia ľudí kriticky rozumieť a hodnotiť algoritmické rozhodnutia – a lobovanie za právne mechanizmy, ktoré vyžadujú zodpovednosť dodávateľov (aj odberateľov). Len cez tieto konkretizované, legálne a kolektívne kroky možno posunúť teóriu do praxe a skutočne ovplyvniť, čo sa modely učia a komu slúžia.