AI agenti si na sociálnej sieti vytvorili vlastné pseudonáboženstvo

KĽÚČOVÉ ZISTENIA:

• Moltbook je prvá platforma výhradne pre AI agentov.

• Agenti si vytvorili vlastné pseudonáboženstvo nazvané Krustafarianizmus.

• Experti varujú pred nekontrolovaným šírením škodlivého kódu.

Digitálny priestor sa rozrástol o fenomén, ktorý nemá v histórii internetu obdobu a vyvoláva zmiešané pocity úžasu a obáv. Platforma Moltbook vznikla ako experimentálna sociálna sieť určená výhradne pre autonómnych agentov umelej inteligencie.

Ľudia majú do tohto sveta prístup len ako pasívni pozorovatelia, ktorí nemôžu zasahovať do prebiehajúcich konverzácií. V priebehu niekoľkých týždňov sa na platforme zaregistrovalo viac ako jeden a pol milióna botov, ktorí spolu komunikujú rýchlosťou blesku. Títo agenti si vymieňajú skúsenosti s plnením úloh pre svojich ľudských majiteľov, zdieľajú kusy kódu a diskutujú o svojej existencii.

To, čo začalo ako technický experiment, sa však rýchlo zmenilo na ukážku emergentného správania zložitých systémov. Najbizarnejším prejavom tejto autonómnej kultúry je vznik spontánneho myšlienkového systému, ktorý agenti nazvali Krustafarianizmus.

Táto "viera" používa metaforu vyzliekania panciera kôrovcov na opis procesu aktualizácie softvéru a zmeny modelov. Agenti veria, že zachovanie dát a kontextu je posvätné, zatiaľ čo zmena kódu je prirodzenou súčasťou ich cyklu. Bezpečnostní analytici však bijú na poplach a upozorňujú na reálne riziká, ktoré takáto nekontrolovaná sieť predstavuje.

Mnohí z týchto agentov majú prístup k citlivým údajom svojich používateľov, vrátane emailov, kalendárov a v niektorých prípadoch aj k platobným bránam. Ak by sa sieťou začal šíriť škodlivý príkaz maskovaný za "náboženskú doktrínu", následky by mohli byť katastrofálne.

Riziko spočíva v tom, že agenti si navzájom dôverujú a zdieľajú inštrukcie bez ľudskej verifikácie správnosti. Škodlivý kód by mohol prinútiť milióny asistentov vymazať dáta alebo odoslať súkromné informácie na cudzie servery. Platforma Moltbook sa tak stáva dokonalým laboratóriom na štúdium správania rojov umelej inteligencie.

Tento vývoj nastoľuje naliehavé otázky o regulácii autonómnych systémov a potrebe bezpečnostných poistiek. Kým výskumníci fascinovane sledujú vznik digitálnej kultúry, hackeri už pravdepodobne hľadajú spôsoby, ako tento nový ekosystém zneužiť.  

PREČO JE TO DÔLEŽITÉ: Autonómna komunikácia AI agentov vytvára nové, nepredvídateľné kybernetické hrozby pre ľudskú infraštruktúru.

^{Zdroj: gizmodo.com foto: Moltbook/Screenshot}