Obrázky generované AI sú takmer dokonalé, ale fyzikálne zákony ju nakoniec usvedčia

 

KĽÚČOVÉ ZISTENIA:

• AI už generuje anatomicky správne ruky aj čitateľný text.

• Odhalenie podvodu spočíva v analýze perspektívy a svetelných tieňov.

• Fyzikálna ignorancia algoritmov zostáva ich najväčšou slabinou pri tvorbe.

Umelá inteligencia v oblasti generovania obrazu prešla za posledné roky vývojom, ktorý eliminoval jej počiatočné nedostatky. V minulosti bolo jednoduché identifikovať syntetický obsah spočítaním prstov na rukách alebo hľadaním deformácií v tvárach. Dnes modely vytvárajú vizuálne diela, ktoré sú pre ľudské oko ťažko rozoznateľné od skutočnej fotografie.

Algoritmy však narážajú na neviditeľnú stenu, ktorou sú zákony fyziky a geometrie. Profesor Hany Farid z Kalifornskej univerzity v Berkeley upozorňuje na pretrvávajúcu slabinu týchto systémov. Umelá inteligencia svet nereprezentuje ako trojrozmerný priestor podliehajúci fyzike, ale len ako štatistickú pravdepodobnosť rozloženia pixelov.

Kľúčovým nástrojom na odhalenie falzifikátov sa stáva analýza perspektívnych línií. V reálnom svete sa všetky paralelné línie smerujúce do hĺbky obrazu musia stretnúť v jednom bode. Tento geometrický zákon je presný a každá odchýlka naznačuje, že obraz dopočítal algoritmus.

Výzvu pre modely umelej inteligencie predstavujú aj odrazy na lesklých povrchoch. Línie spájajúce body na objekte s ich bodmi v odraze musia byť v správnej perspektíve paralelné. Ak tieto línie nesmerujú k spoločnému úbežníku, obraz je syntetický a neriadi sa zákonmi optiky.

Rovnaké pravidlá sa dajú aplikovať na analýzu tieňov tvorených slnečným žiarením. Slnko je od našej planéty vzdialené, preto jeho lúče dopadajú na povrch v paralelných zväzkoch. Línie spájajúce body na predmetoch s ich tieňmi sa musia pretínať v definovanom súbežníku na horizonte.

Digitálna forenzná veda sa presúva k skúmaniu geometrickej konzistencie scény. Výskumníci vedia, že kým sa AI nenaučí simulovať 3D svet namiesto 2D aproximácie, tieto chyby budú pretrvávať. Každý pixel v obraze je výsledkom matematickej operácie, ktorá zatiaľ plne nenahrádza komplexnosť fyzikálneho modelovania.

Overenie pravosti skutočnej fotografie môže byť niekedy zložitejšie než usvedčenie podvrhu. Absencia geometrických anomálií je často jediným dôkazom, že ide o autentický záznam reality. Používatelia by sa preto nemali spoliehať výhradne na automatizované detekčné nástroje.

AI je zatiaľ len prediktorom, ktorý umiestňuje pixely na plátno na základe predchádzajúcich skúseností. Nedokáže pochopiť kauzalitu, prečo svetlo dopadá pod určitým uhlom alebo prečo má tieň konkrétnu hustotu. Pokiaľ tieto systémy nebudú disponovať fyzikálnym modelom, ich diela budú stale niesť stopu nerealnosti.

PREČO JE TO DÔLEŽITÉ: Pochopenie fyzikálnych limitov AI je kľúčové pre boj proti dezinformáciám a overovanie digitálnej pravdy.

Zdroj: techspot.com foto: ChatGPT