PMI_092022 PMI_092022 PMI_092022

Ako rozpoznať deepfake? Stačí jednoduchý trik

Technológie
0

Vzhľadom na to, že technológia deepfake videa sa začína používať na falšovanie identity pri živých online pracovných pohovoroch, bezpečnostní výskumníci upozornili na jednoduchý spôsob, ako odhaliť takéto videá. Stačí požiadať osobu, aby otočila tvár nabok. Dôvodom je skutočnosť, že deepfake modely umelej inteligencie sú síce dobré pri vytváraní čelných pohľadov na tvár osoby, ale majú problémy pri bočných alebo profilových pohľadoch. Vďaka tomu je kontrola bočného profilu jednoduchý a účinný postup overovania pre spoločnosti, ktoré vedú online pracovné pohovory založené na videu.

SAMSUNG_092022 M Advertisement

V júni americký Federálny úrad pre vyšetrovanie (FBI) varoval, že zaznamenal nárast podvodníkov používajúcich deepfake audio a video pri účasti na online pracovných pohovoroch. Cieľom deepfake uchádzačov boli hlavne voľné pracovné miesta v oblasti technológií, ktoré by útočníkovi umožnili prístup k podnikovým IT databázam, súkromným údajom o zákazníkoch a informáciám o patentoch. Bezpečnostný odborník Martin Anderson pre portál Metaphsyics.ai podrobne opísal svoje experimenty.

Väčšina deepfakes vytvorených jeho spoločnosťou zjavne zlyhala, keď sa hlava otočila o 90° a odhalili sa prvky bočného profilu osoby. Algoritmus totiž nemá dostatok kvalitných tréningových údajov o profile, čo si vyžaduje, aby si deepfake model vymyslel alebo „primaľoval“ veľa toho, čo chýba. Deepfake softvér potrebuje na rekonštrukciu tváre detegovať orientačné body na tvári osoby. Keď je osoba obrátená bokom, algoritmy majú k dispozícii len polovicu orientačných bodov na detekciu v porovnaní s pohľadom spredu.

Anderson argumentuje v prospech používania bočného profilu na overovanie pravosti pri živých videách a poukazuje na to, že nedostatok tréningových údajov z bočného pohľadu pravdepodobne bude pretrvávať. Po fotografiách profilových záberov hlavy v databázach je malý dopyt, pretože zvyčajne nie sú lichotivé, a tak fotografi nie sú motivovaní, aby ich dodávali. Ďalší užitočný spôsob, ako odhaliť deepfake model pri živom videu, je požiadať účastníka videa, aby mával rukami pred tvárou. To zmätie model, ktorý bude mať problémy s latenciou a kvalitou superpozície nad deepfake tvárou.  

Zdroj: zdnet.com.

Zobrazit Galériu

Redakcia

Všetky autorove články

Mohlo by vás zaujímať

Mohlo by vás zaujímať