Vyzliekacie aplikácie vytvorili nový druh šikany na školách

 

KĽÚČOVÉ ZISTENIA:

• Obchody s aplikáciami ponúkajú desiatky programov na digitálne vyzliekanie fotografií.

• Tieto aplikácie dosiahli stovky miliónov stiahnutí a generujú miliónové zisky.

• Študenti využívajú umelú inteligenciu na šikanovanie spolužiakov, pričom chýba regulácia.

Výskumná organizácia Tech Transparency Project identifikovala viac ako 100 aplikácií zameraných na digitálne vyzliekanie osôb z fotografií. Tieto programy sa verejne nachádzali v oficiálnych obchodoch spoločností Apple a Google, pričom dosiahli až 705 miliónov stiahnutí.

Prieskum analytickej spoločnosti AppMagic ukázal, že tieto aplikácie zároveň vygenerovali pre svojich tvorcov tržby vo výške až 122 miliónov USD. Keďže obe technologické platformy si z predaja berú províziu, priamo zarábali na šírení týchto kontroverzných nástrojov.

Tento softvér dokáže spracovať fotografiu plne oblečenej osoby a pomocou generatívnej umelej inteligencie vytvoriť falošný nahý obrázok. Okrem statických snímok umožňujú niektoré aplikácie aj tvorbu pornografických videí alebo textových botov nasimulovaných podľa skutočných ľudí. Technológia je ľahko dostupná pre bežných spotrebiteľov a nevyžaduje od používateľov žiadne technické zručnosti.  

Vyšetrovanie odhalilo, že vyhľadávacie a reklamné algoritmy v obchodoch s aplikáciami používateľov k týmto nástrojom priamo navádzali. Funkcie automatického dopĺňania textu podsúvali vyhľadávacie výrazy a obchody zároveň zobrazovali platené reklamy na tieto generátory.

Najmenej 31 z týchto aplikácií malo dokonca oficiálne udelené hodnotenie, podľa ktorého boli vhodné aj pre neplnoleté osoby. Tým sa vytvoril priestor pre ich zneužitie mladšou generáciou. Dostupnosť technológie viedla k vzniku nového druhu šikanovania v školskom prostredí.

Stredoškoláci využívajú umelú inteligenciu na vytváranie explicitných materiálov so svojimi spolužiakmi a učiteľmi. Rodičia a vzdelávacie inštitúcie majú obmedzené možnosti, ako proti šíreniu týchto materiálov bojovať a natrvalo ich odstrániť z internetu. Zdieľanie takýchto záberov spôsobuje obetiam psychologické poškodenie a narušuje vzťahy v celých komunitách.

Po upozornení zo strany denníka Wall Street Journal zablokovala spoločnosť Google vybrané pojmy pre vyzliekanie vo svojom vyhľadávaní. V americkom štáte Minnesota prešiel senátom návrh zákona, ktorý zavádza zákaz týchto aplikácií s pokutou vo výške 500 000 USD za každé porušenie.

Nová legislatíva tiež umožní obetiam priamo žalovať prevádzkovateľov týchto softvérových nástrojov a požadovať odškodné za ujmu. Zákonodarcovia sa tak snažia nahradiť zlyhávajúcu kontrolu zo strany technologických firiem.

PREČO JE TO DÔLEŽITÉ: Ignorovanie hrozieb algoritmami vystavuje najzraniteľnejšie skupiny novým a nebezpečným formám digitálneho zneužívania.

Zdroj: wsj.com foto: ChatGPT