Instagram má veľký problém s obťažovaním

Hoci platforma sa sama označuje ako najvľúdnejšie miesto na internete, používatelia tvrdia, že je tu prebujnené obťažovanie. Zamestnanci argumentujú, že ich snahy o jeho zastavenie nie sú dobre zaplatené a navyše to ani nie je priorita spoločnosti.

Keď sa Brandon Farbstein prvýkrát pripojil na Instagram, mal 14 rokov. Farbstein sa narodil so zriedkavou formou nanozómie (trpasličí vzrast) a chcel využiť stránku na zdieľanie fotografií na poučenie ľudí o svojom stave. 

Čoskoro však začal dostávať nenávistné odkazy – hrozili mu smrťou, vysmievali sa mu, na stránke s mémami pridali jeho tvár na Hitlerovo telo, použili proti nemu swatting (falošné volanie na tiesňovú linku a privolanie sanitky na cudziu adresu). Po tom, ako trollovia začali vylepovať jeho obrázky na chodbe strednej školy, ktorú navštevoval, začal sa báť o svoju bezpečnosť. Nakoniec zo školy odišiel a dokončil štúdium diaľkovo cez internet.

„Všetky moje zážitky zo strednej školy úplne zničilo obťažovanie cez Instagram,“ povedal Farbsein. „Som zvyknutý na to, že ľudia vykrikujú moje meno, ale keď hovoria, že ma zabijú alebo prídu vyhľadať moju rodinu, to je už čistý teror.“  Farbstein sa pokúsil zastaviť obťažovanie. Poslal množstvo správ prostredníctvom interného nástroja správy na Instagrame, ale spoločnosť potrebuje niekoľko dní na to, kým sa im začne venovať, ak to vôbec urobí. Väčšinou len vymaže správy a komentáre.

Obťažovanie sa v uplynulom roku na Instagrame veľmi rozšírilo. „Instagram je platforma č. 1, na ktorej som okúsil nenávisť,“ povedal Farbstein. A nie je sám. Napriek dlhšie udržiavanej povesti, že Instagram je „najvľúdnejšie miesto na internete“, veľa jeho používateľov (a veľké množstvo z nich je veľmi mladých) to tak necítia. Mnohí opísali nepríjemné, trvalé a často až desivé formy obťažovania. A tvrdia, že Instagramu sa ich opakovane nepodarilo zastaviť.

Instagram mal roky veľmi dobrú reputáciu. Iné dôležité sociálne platformy, ako sú Twitter, Facebook, Reddit či YouTube, čelili problémom s obťažovaním, no zdalo sa, že Instagram nimi nie je zasiahnutý. Často ho spomínali ako dobrý príklad pre zvyšok sociálnych sietí.

V roku 2016 zakladateľ Instagramu a neskôr jeho generálny riaditeľ Kevin Systrom oznámil plány urobiť z neho „najkrajšie online miesto“, čo vedúci redaktor webu Wired Nicholas Thompson označil ako „druh sociálnosieťovej utópie“. O niekoľko mesiacov neskôr spoločnosť oznámila nové opatrenia proti obťažovaniu, zahŕňajúce automatické zakazovanie nevhodných príspevkov. Na jeseň potom spoločnosť znásobila úsilie svojím programom „Commitment to Kindness“, ktorý zahŕňal rôzne zlepšenia produktu. Nedávno Instagram oznámil súbor nových funkcií na obmedzenie šikanovania a „šírenie vľúdnosti“ vrátane filtrovania komentárov k živým videám či zavedenia technológie strojového učenia na lepšie odhalenie šikanovania.

„Chceme, aby ľudia, ktorí prídu na Instagram, mali pozitívnu skúsenosť – mohli sa spriateliť, nájsť spoločné záujmy a venovať sa veciam, ktoré robia Instagram príjemným miestom,“ vyjadrila sa Newtonová pre The Atlantic. „Šikanovanie a obťažovanie sú v príkrom rozpore so zážitkami, ktoré chceme poskytovať. Chceme takéto správanie zastaviť a chceme, aby sa ľudia na Instagrame cítili bezpečne, ale vieme, že musíme vykonať ešte veľa práce.“

No traja zo súčasných aj bývalých zamestnancov v rozhovore pre Atlantic povedali, že neveria, že spoločnosť urobila dosť na ochranu používateľov pred obťažovaním, a že projekty, ktoré by mali riešiť tento problém, sú nedostatočné, nie sú priorizované a pracuje na nich len málo ľudí. „Protišikanová rétorika“ Instagramu vraj neodráža to, čo sa v spoločnosti skutočne deje.

Sarah, žena z Montrealu, ktorá má zriadený feministický účet @douconsideryourselfafeminist, napríklad povedala, že neuplynie deň bez urážok a bez toho, aby sa jej vyhrážali smrťou či znásilnením. Vyhrážkam a obťažovaniu čelia aj ďalší ľudia aktívni na Instagrame, napr. módne blogerky. Jedna z nich sa vyjadrila, že už sa vo svojom dome necíti bezpečne. No ani ľudia s menej aktívnou prítomnosťou na Instagrame nie sú imúnni proti útokom. 

Niekoľko vecí robí z Instagramu živnú pôdu pre obťažovanie. Predovšetkým je obrovský - každý mesiac používa platformu viac ako 1 miliarda ľudí (na porovnanie, Twitter má 335 miliónov aktívnych používateľov mesačne). Navyše nastavenia ochrany súkromia sú na Instagrame menej komplexné a menej granulárne ako na Facebooku, ďalšej sociálnej sieti s miliardou používateľov. Na Instagrame je váš profil a celý jeho obsah buď verejný pre každého, alebo obmedzený na vašich schválených stúpencov, neexistuje nijaká možnosť medzi tým, čo chýba najmä malým firmám.

Platforma má takisto výkonný vyhľadávací nástroj: na Instagrame je ľahké vyhľadávať podľa hashtagov alebo lokalizácie a nájsť tisíce ľudí s verejným profilom a fotkami. Môže tak urobiť každý, kto chce zmobilizovať armádu trollov, aby sa vrhli na konkrétnu osobu a označovali ju na obrázkoch alebo v príbehoch. Okrem toho je tu silná a niekedy aj divoká fanúšikovská kultúra, kde účty celebrít a dedikované účty fanúšikov majú oveľa väčšiu váhu ako na iných platformách. Napríklad jeden fanúšik Justina Biebera má viac ako 1,6 milióna stúpencov, Selena Gomez a Ariana Grande majú niekoľko fanúšikov s viac ako 100 000 stúpencami.

Stačí jeden zlý komentár a fanúšikovia môžu zhromaždiť milióny ľudí na útok. Na Instagrame teda môžete byť súčasťou veľkej, priateľskej a šťastnej skupiny, ale aj rozhnevaného davu. Mnohé celebrity po mesiacoch obťažovania opustili platformu. Patrí medzi ne herečka Kelly Marie Tranová (Hviezdne vojny: Posledný Jedi), Ariana Grande, Daisy Ridleyová, Justin Bieber, Khloé Kardashian.

Rovnako ako Twitter aj Instagram umožňuje nastavenie anonymných účtov, potrebujete na to len e-mailovú adresu a o pár minút môžete začať zverejňovať príspevky. Táto funkcia sa dá využiť na vytvorenie armády falošných účtov na útoky na ľudí. Twitter teraz umožňuje používateľom chrániť sa,  môžete zablokovať komentáre od ľudí, ktorí vás nesledujú, ktorých nesledujete, ktorí nie sú overení, ktorí nemajú overenú e-mailovú adresu. Instagram však implementoval iba niektoré z týchto regulačných prvkov. Môžete skryť iba komentáre od ľudí, ktorých nesledujete alebo ktorí vás nesledujú.

Hoci Instagram automaticky filtruje určité slová z komentárov, používatelia hovoria, že trollovia jednoducho pridajú k takýmto slovám ďalší znak alebo symbol, aby unikli filtrom. Skrátka si vždy nájdu nové spôsoby, ako napísať hrozné veci.

Podľa hovorcu Instagramu majú Facebook a Instagram spoločný tím 20 000 ľudí, ktorí pracujú v oblasti bezpečnosti a ochrany súkromia na oboch platformách. Z tohto tímu 7500 ľudí – ide o pracovníkov na dohodu, na plný úväzok a zamestnancov „partnerských firiem“ – má za úlohu preskúmať obsah od viac ako 1 miliardy ľudí, ktorí používajú Instagram, a 2 miliárd ľudí z celého sveta, ktorí používajú Facebook každý mesiac. Je to sizyfovská práca. 

„Ľudia, s ktorými pracujem, robia za 15 dolárov za hodinu a musia mať skúsenosti s reguláciou, podvodmi, šikanovaním, prejavmi nenávisti,“ uviedol Andy, ktorý moderuje obsah na Facebooku a Instagrame. Aj on má výhrady k mechanizmu nahlasovania nedostatkov. „Občas využívam aplikáciu Instagram ako používateľ a párkrát som niečo nahlásil, no moja skúsenosť bola úplne frustrujúca,“ povedal.

Andy hovorí, že viackrát videl na Instagrame obsah, o ktorom ako moderátor „vedel, že mal byť vymazaný“. Nedávno napríklad narazil na účet s posolstvom „zabite čiernych a Židov“ a „znásilnite zdravotne postihnuté ženy“. Na účte bolo 6400 stúpencov a všetky príspevky mali stovky lajkov.

Pokiaľ ide o moderovanie obsahu, je to dosť problematické. Instagram je dostupný v každej krajine okrem Číny a Severnej Kórey; jeho používatelia hovoria desiatkami jazykov a navzájom komunikujú spôsobom, ktorý je špecifický pre jednotlivé kultúry. Používajú regionálny slang, komunikujú zakódovane. Moderátori musia niekedy len hádať, prečo je niečo urážlivé.

Čoraz väčšie množstvo obsahu na Instagrame tvoria screenshoty z Twitteru, takže moderátori majú pocit, že potrebujú byť odborníkmi na viacero sociálnych platforiem, aby pochopili nuansy každého príspevku. Navyše nedostávajú nijaké upozornenie na nové funkcie a musia len hádať, ako čo funguje a čo znamená obťažovanie v každom formáte. Dôraz sa kladie hlavne na to, aby ľudia strávili na Instagrame viac času, aby sa získalo viac používateľov a viac príjmov.

Instagram však ponúkol aj automatizované nástroje moderovania ako doplnok k svojim ľudským moderátorom. „Pracujeme na technológii umelej inteligencie, ktorá môže nájsť šikanujúci alebo obťažujúci obsah, ktorý potom môžu naše tímy skontrolovať a odstrániť,“ uvádza sa vo vyhlásení spoločnosti. „Naším cieľom je, aby sme včas rozpoznali a odstránili tento obsah rýchlejšie ako kedykoľvek predtým, aby sme mohli zachovať vľúdne a bezpečné prostredie, ktoré si naše spoločenstvo zaslúži.“

Zdroj: theatlantic.com.