Reálne alebo umelé? Google Gemini odhalí vlastné deepfake videá

KĽÚČOVÉ ZISTENIA:

• Nástroj deteguje neviditeľné vodoznaky SynthID v obraze i zvuku.

• Analýza nie je binárna, ale poskytuje kontextové hlásenia.

• Detekcia funguje len na obsah vytvorený AI nástrojmi Google.

S nárastom virálnych falošných videí a dezinformácií sa technologickí giganti snažia vyvinúť nástroje na overovanie pravosti digitálneho obsahu. Google integroval do svojej aplikácie Gemini nový verifikačný nástroj, ktorý má slúžiť ako "štít" pre verejnosť proti škodlivej zámene reality a fikcie.

Tento systém funguje ako digitálny detektív, ktorý skúma videá a hľadá stopy po manipulácii umelou inteligenciou. Základom technológie je SynthID, digitálny vodoznak vyvinutý divíziou Google DeepMind, ktorý je neviditeľný pre ľudské oko, ale detegovateľný špeciálnym algoritmom.

Tento vodoznak sa vkladá priamo do pixelov obrazu alebo do frekvenčného spektra zvuku počas procesu generovania obsahu. Na rozdiel od bežných metadát, ktoré sa dajú ľahko odstrániť, je SynthID navrhnutý tak, aby prežil bežné úpravy, ako je orezanie, zmena veľkosti alebo aplikácia filtrov.

Používateľský proces v aplikácii Gemini je navrhnutý tak, aby bol jednoduchý a prístupný. Používateľ importuje video do aplikácie a opýta sa, či bol obsah vytvorený alebo upravený pomocou AI nástrojov Google.

Systém následne neposkytne len jednoduchú odpoveď "áno" alebo "nie", ale ponúkne kontextovú správu, ktorá označí konkrétne časti videa alebo zvukovej stopy, ktoré boli modifikované. Nástroj analyzuje nielen vizuálnu stránku, ale aj audio stopu, čo umožňuje odhaliť prípady, kedy bol zvuk vygenerovaný umelou inteligenciou, hoci obraz je reálny, a naopak.

Technológia SynthID pre text napríklad využíva "turnajový výber" pri generovaní tokenov, čím vytvára štatistický vzorec, ktorý sa zachová aj pri miernom parafrázovaní. Pri obrázkoch sa používajú dve neurónové siete – jedna vkladá vodoznak a druhá ho hľadá, pričom sú trénované tak, aby odolali rôznym vizuálnym útokom.

Napriek pokročilým schopnostiam má tento systém svoje jasné limity. Zásadným obmedzením je, že nástroj dokáže identifikovať iba obsah vytvorený AI modelmi od Google, ktoré obsahujú vodoznak SynthID.

Videá vygenerované konkurenčnými nástrojmi, ako sú modely od OpenAI alebo iné open-source generátory bez tohto vodoznaku, prejdú detekciou bez povšimnutia. Existujú aj technické obmedzenia pre samotný proces overovania v aplikácii.

Používatelia môžu nahrávať iba súbory s veľkosťou do 100 MB a dĺžkou maximálne 90 sekúnd. Google však naznačuje, že tieto kapacity sa budú v budúcnosti rozširovať, keďže boj proti dezinformáciám a potreba transparentnosti v digitálnych médiách neustále rastie.

PREČO JE TO DÔLEŽITÉ: Nástroj prináša potrebnú transparentnosť do digitálneho obsahu, hoci jeho účinnosť je zatiaľ obmedzená na ekosystém Google.

^{Zdroj: talkandroid.com foto: depositphotos.com}