Ako rozpoznať deepfake fotky a videá

Prakticky každý nástroj aj technológia sa dá nielen využiť, ale aj zneužiť a platí to aj o umelej inteligencii. Slovo deepfake, zaužívané pre falošné fotografie a videá vytvorené pomocou AI nástrojov, vzniklo spojením pojmov deep learning a fake.

Takéto fotky boli pomocou AI buď kompletne vygenerované, alebo reálne zábery boli upravené tak, aby napríklad verejne známa osoba bola zachytená v situácii, ktorá nenastala, alebo hovorí niečo, čo v skutočnosti nikdy nepovedala. V podstate ide o krádež identity, keď tvár a hlas človeka, väčšinou známej osobnosti, je priradená k telu a akciám iného človeka. Napríklad tvár známej celebrity je namapovaná na postavu z videa pre dospelých. Neustále sa zdokonaľujúce technológie umožňujú vytvárať videá, v ktorých je ťažké odhaliť, či ide o reálnu situáciu, alebo deepfake.

Generovanie videí pomocou AI funguje tak, že neurónová sieť sa učí na veľkom množstve obrázkov, ktoré sú v prípade celebrít a politikov voľne dostupné na internete, a vytvorí si model. Ten sa potom použije na generovanie tváre, prípadne jej nahradenie. Generatívna AI je schopná generovať realistickú podobu v rôznych uhloch, mimike či emóciách a dokáže prispôsobiť pohyby pier hovorenému textu.

Fotky upravované tak, aby sa zmenil zobrazovaný kontext, sa vyskytujú od nepamäti, presnejšie od vynálezu fotografie. Najznámejší príklad je vymazávanie politikov, ktorí u diktátorov upadli do nemilosti. Rovnako sa od samého počiatku kinematografie využívajú rôzne čoraz sofistikovanejšie triky. Upravovanie fotiek tak, aby vyzerali aspoň trochu dôveryhodne, si však vyžadovalo skúsenosti a trpezlivosť, o filmových trikoch ani nehovoriac. To bola donedávna doména profesionálov, prípadne veľmi pokročilých amatérov. S nástupom generatívnej AI sa všetko zmenilo a zrazu má prakticky každý k dispozícii dosiaľ netušené možnosti na manipuláciu s fotkami a videami, prípadne na ich vygenerovanie tak, aby zobrazovali situáciu, ktorá v skutočnosti nenastala. Možnosti AI okrem toho, že podporujú kreativitu, sa čoraz viac zneužívajú na šírenie hoaxov.

V poslednom čase sa s deepfake materiálmi doslova roztrhlo vrece. Sú šírené s cieľom prezentovať určitý názor, poškodiť alebo, naopak, spropagovať niektorú politickú stranu, očierniť politika či inú verejne známu osobu, prípadne ovplyvniť verejnú mienku ohľadom konkrétnej osoby, názoru, politického subjektu či krajiny. Hoaxy tohto typu môžu šíriť platení trollovia alebo ľudia, ktorí sa snažia na seba upozorniť, prípadne riešia osobnú nenávisť či komplexy.

V článku sa zameriame na to, ako falošné fotky a videá odhaliť jednoduchými a intuitívnymi postupmi. K dispozícii je veľa aplikácií schopných rozpoznať falošné fotky a videá. No priznajme si, kto by si overoval pravosť fotografie v článku či blogovom príspevku na internete tak, že by na to použil jednu alebo viac aplikácií s ťažko zapamätateľnými názvami. Je to prácne a málo intuitívne.

Úpravy verzus manipulácia

Treba si uvedomiť, že v súčasnosti sa upravujú prakticky všetky fotografie aj videá. Upraví sa jas, podanie farieb, presvetlia sa tiene, odstránia sa prípadné defekty pleti snímaných osôb, umelo sa rozostrí pozadie... Na zábere je však stále len to, čo zachytil objektív. Veľa aplikácií umožňuje odstránenie postavy či postáv, ktoré vám nechtiac vošli do záberu. Nie je za tým žiadny nekalý úmysel, iba tak dosiahneme stav, ktorý bol realitou 3 sekundy predtým, než vám niekto vošiel do zorného poľa objektívu, takže to ani nepovažujeme za manipuláciu. No ak po rozvode odstránite z rodinných fotiek partnera, to už je manipulácia.

O zrejmú manipuláciu ide vtedy, ak niekto z fotografie odstráni, prípadne do nej pridá nejaké postavy či iné objekty, zmení pozadie, pričom chce dosiahnuť určitý cieľ, napríklad niekoho uviesť do omylu či zámerne šíriť dezinformáciu. Hoax môže vzniknúť aj tak, že je kompletne zinscenovaný, prípadne sa použije záber z filmu či seriálu, kde bola príslušná scéna naaranžovaná s iným zámerom v kontexte deja. Pátranie po prípadných úpravách v tomto prípade nikam nevedie, pretože na fotke či videu je presne to, čo bolo pred objektívom kamery. Po príklad takýchto záberov netreba chodiť ďaleko, ukrajinský prezident účinkoval ako herec v komediálnych seriáloch, takže o rôzne zábery, ktoré sa dajú použiť pri strojovom učení, nie je núdza. Prípadne možno k záberom priamo priradiť iné dialógy.

Ako overiť pravosť záberov

Na internete koluje množstvo fotografií a v poslednom čase aj čoraz viac videí, pri ktorých si bežný človek nie je istý. Buď je to veľmi kvalitne upravený záber, alebo okolnosti, ktoré fotografia prezentuje, sa zdajú do značnej miery pravdepodobné. Ako máme rozpoznať, či je fotka alebo video pravé, dokumentujúce realitu, alebo je to dezinformácia?

Najskôr sa treba zamyslieť nad kontextom, či prezentovaná situácia mohla nastať. Nedávno koloval záber, na ktorom si známy 93-ročný finančník robí selfie s dvoma slovenskými politikmi. Nahradenie hlavy osoby, ktorá na fotke skutočne je, bolo urobené technicky veľmi dobre, no treba sa zamyslieť, či by si globálny magnát robil selfie s politikmi pre neho neznámymi. V prípade, ak je kontext uveriteľný a prezentovaná situácia s určitou, aj keď malou pravdepodobnosťou mohla nastať, treba si fotku alebo vo vhodnom okamihu pozastavené video podrobne prehliadnuť, prípadne si pomôžte zväčšovaním detailov, ktoré vás zajímajú alebo sa vám zdajú podozrivé. Veľa prezradia aj ľudia, ich genotyp a oblečenie. Takisto je zaujímavý profil krajiny, ročné obdobie. Obdobie, keď bol záber odfotený, môžete určiť aj podľa áut či budov. Skúste preskúmať aj prípadné tiene, ktoré môžu pomôcť odhaliť pridané alebo odstránené postavy, budovy či iné objekty.

Viac informácií sa dozviete, ak fotografiu necháte analyzovať v aplikácii Google Lens, ktorá sa používa na získanie relevantných informácií súvisiacich s objektmi, ktoré identifikuje pomocou vizuálnej analýzy založenej na neurónovej sieti. Môžete si ju stiahnuť aj ako plugin do prehliadača Chrome. Fotografiu môžete z technického hľadiska preskúmať v editore fotiek, napríklad Adobe Lightroom či Zoner Photo Studio, a úpravou kontrastu, tonálnych kriviek či rôznymi efektmi, ako je reliéf, nájsť prípadné nedokonalosti fotomontáže. Často odhalia detaily, ktoré bežne nie sú viditeľné. V prípade odobratého objektu, ktorý bol nahradený klonom, zistíte, že klon nenadväzuje plynule na okolie a podobne. V prípade záberov vygenerovaných AI vám tieto techniky nepomôžu, pretože tam všetko na seba plynulo nadväzuje. Problém však môže byť s vernosťou podania farieb či perspektívy.

Ak sa vám nezdá, čo známa osobnosť vo videu hovorí, treba spozornieť, zväčšiť video tak, aby sa zobrazovalo na celej obrazovke, začať pozerať podrobnejšie a sústrediť sa na detaily. Aj napriek technologickému pokroku ešte stále nie sú deepfake videá úplne dokonalé. Pri pozornejšom skúmaní môžete napríklad odhaliť nepresnú synchronizáciu pohybu pier pri rozprávaní, neprirodzenú, strojenú mimiku, nerovnomerné tiene a ich pohyb. Hovoriaca postava s falošnou tvárou buď žmurká málo, alebo v podozrivo pravidelných intervaloch. Prípadne sa oči hovoriaceho človeka neprirodzene strnulo pozerajú stále rovnakým smerom. Takisto treba sledovať prípadné zmeny farby tváre, ako aj to, či sa farba pleti na tvári nelíši od farby pokožky na zvyšku tela. V rozpoznávaní jemných nuáns tvárí je náš mozog veľmi dobrý, preto aj na mnohých bankovkách sú tváre, ktoré umožňujú ľahšie rozpoznať prípadný falzifikát. Pozornosť treba zamerať aj na krk, teda na miesto, kde sa prípadná falošná tvár pripája na reálne telo. Zamerajte sa takisto na to, kto je autorom videa a čo publikoval doteraz. Zadajte jeho meno do vyhľadávača a zistite o ňom podrobnejšie informácie.

Nedôveruj a overuj

Pokrok v AI umožňuje generovať fotky a videá na nerozoznanie alebo takmer na nerozoznanie od pravých. Doba, keď sa falošné zábery dali odhaliť na základe technických nedokonalostí, sa stáva minulosťou. Väčšinu falošných fotiek a videí však odhalíte logickou úvahou. Potenciál deepfake si uvedomujú aj technologické firmy, takže v blízkej budúcnosti môžeme očakávať intuitívne použiteľné nástroje na odhaľovanie tohto nežiaduceho fenoménu. Dovtedy treba k informáciám, hlavne tým kontroverzným, pristupovať kriticky a overovať si ich.

Úvodný obr. zdroj:  FREEPIK.com