Textilný vzor na košeli dokáže skryť človeka pred sledovacími kamerami a AI

 

KĽÚČOVÉ ZISTENIA:

• Nemecký dizajnér navrhol košeľu so vzorom, ktorý znemožňuje kamerovým systémom s umelou inteligenciou rozpoznať človeka.

• Farebné škvrny narúšajú kontinuitu obrysu tela, takže algoritmus nedokáže spojiť končatiny do jednej siluety.

• Vzor bol navrhnutý priamo pomocou spätnej väzby umelej inteligencie metódou neustáleho hľadania chýb.

Sledovacie systémy s umelou inteligenciou sa stávajú pevnou súčasťou mnohých miest a verejných priestranstiev. Tieto bezpečnostné systémy nefungujú ako ľudský zrak, ale analyzujú štatistické vizuálne vzorce. Počítače čerpajú dáta z miliónov tréningových snímok dostupných v rôznych databázach. Kamery tak hľadajú typické obrysy hlavy, rúk a nôh, ktoré následne spájajú do jednej ľudskej siluety.

Toto vyhodnocovanie je zároveň hlavnou technickou slabinou súčasných detekčných algoritmov. Nemecký dizajnér Simon Weckert vytvoril špecifickú havajskú košeľu, ktorá túto zraniteľnosť softvéru aktívne využíva. Povrch použitej látky pokrýva nepravidelná zmes ružových, oranžových a zelených škvŕn. Zatiaľ čo pre ľudské oko pôsobí tento vzor ako bežný textil, pre kamery je neviditeľný.

Zdroj foto: Simon Weckert

Farebné tvary totiž opticky narúšajú línie tela a nedovoľujú algoritmu spojiť vizuálne dáta. Počítač následne nedokáže priradiť zaznamenaný objekt k siluete človeka. Na vytvorenie tohto dizajnu použil autor priamo modely strojového učenia. Využil proces neustálej spätnej väzby, ktorý sa odborne nazýva adversariálna slučka.

Počítačový model pri nej opakovane analyzoval navrhované vzory a vylepšoval ich cieleným hľadaním chýb. Algoritmus sa snažil nájsť takú kombináciu tvarov a farieb, pri ktorej zlyháva detekcia postavy. Tento nezvyčajný kus oblečenia pripomína fiktívnu košeľu z kyberpunkového románu Zero History.

Knižné dielo od spisovateľa Williama Gibsona vyšlo v roku 2010. Spisovateľ v ňom opísal ochranný odev ako to najškaredšie tričko na svete. Reálny projekt dizajnéra Weckerta ukazuje, že aj veľmi pokročilé sledovacie technológie je možné oklamať. Stačí na to obyčajný textil potlačený vhodne navrhnutým vizuálnym vzorom.

PREČO JE TO DÔLEŽITÉ: Návrh košele demonštruje limity súčasných algoritmov na rozpoznávanie obrazu a ponúka fyzický spôsob ochrany pred monitorovaním vo verejnom priestore.

Zdroj: futurism.com foto: ChatGPT/Simon Weckert

Zobrazit Galériu