Študenti FIIT STU vyvinuli softvér na odhaľovanie nevhodných komentárov

Len dva tímy z 200 krajín a regiónov sveta postúpili do semifinále súťaže informatikov Imagine Cup. A jeden z tímov sú Slováci – študenti Fakulty informatiky a informačných technológií Slovenskej technickej univerzity v Bratislave. V priebehu niekoľkých týždňov sa študenti dozvedia, či postupujú  ďalej – do svetového finále v Seattli.

Tím TrollBusters tvorí štvorica študentov FIIT STU - Monika Filipčíková, Jakub Adam, Andrej Švec a Filip Vozár, ktorých vedie pedagóg Jakub Šimko. Od jesene pracujú na vývoji softvéru, ktorý má odhaliť hanlivé a urážlivé komentáre v diskusiách pod článkami v médiách alebo na sociálnych sieťach.

V súťaži Imagine Cup, ktorú každoročne vyhlasuje spoločnosť Microsoft, si pripísali už jedno čiastkové víťazstvo – vyhrali súťaž Big Idea Plan, ktorá hodnotila nápad a inovačný potenciál študentského projektu.

„Nízku kvalitu diskusií vnímame aj my čitatelia a diskutéri ako každodenný problém. Premýšľali sme, či by sa nedala kontrola diskusií automatizovať, keďže negatívne príspevky majú viaceré spoločné znaky, ktoré by sa dali strojovo identifikovať,“ vysvetľuje Jakub Šimko, ktorý tím študentov vedie.

S otázkou, ako ustrážiť urážlivé komentáre hejterov v diskusiách, sa boria svetové médiá aj sociálne siete. Moderátori nemajú šancu ustrážiť tisíce príspevkov denne, preto často siahnu po radikálnom riešení – diskusie zastavia alebo ich pri niektorých témach radšej ani neotvoria. To sa často nepáči ani čitateľom a diskutujúcim.

„Softvér, ktorý sme vyvinuli, pomôže moderátorom diskusií zúžiť rozsah príspevkov, ktorými sa musia zaoberať. Používateľ si môže vybrať z takmer 20 parametrov tie, ktoré si má softvér všímať, môže ísť napríklad o vulgárne slová, reklamu, osobné urážky či neobvyklú aktivitu diskutéra,“ vysvetľuje študent a člen tímu Jakub Adam.

Softvér moderateIT dnes už dokáže správne zaradiť asi 65 percent príspevkov, no podľa študentov sa bude zlepšovať. Dokáže sa totiž učiť, ktorý príspevok je dobrý či zlý, na základe konkrétnych príkladov. Študenti chcú algoritmus zlepšovať tak, aby dokázal vyhodnotiť aj emóciu príspevku či poradie slov, ktoré môže rovnako ovplyvniť hodnotenie príspevku. Keďže aj súťaž Imagine Cup používa ako komunikačný jazyk angličtinu, aj moderateIT dnes pracuje v slovenčine aj v angličtine.