Kako prepoznati AI video: Ne morate da brojite prste

Pre nekoliko godina bilo je dovoljno da na fotografiji primetite čudnu šaku, šest prstiju ili uvo koje ne liči ni na šta poznato, pa da posumnjate da je slika generisana veštačkom inteligencijom. Kod videa je stvar malo komplikovanija. AI je napredovao i više ne mora da napravi očiglednu anatomsku grešku da bi nas prevario. Može da napravi čoveka koji govori, hoda, vozi automobil, ulazi u prodavnicu ili razgovara sa drugom osobom. Svetlo, senke i pokreti često izgledaju sasvim uverljivo. Pustite snimak jednom i verovatno nećete primetiti ništa neobično. Pustite ga ponovo i možda ćete zapaziti da nešto ipak ne štima. Upravo u tome je stvar. Kod AI videa problem često nije jedan spektakularan propust, već niz sitnih nedoslednosti koje se pojavljuju tokom trajanja snimka. Zato nema mnogo smisla da se oslanjamo samo na brojanje prstiju. Mnogo je korisnije da naučimo da gledamo šta se događa između dva kadra, kako se predmeti ponašaju dok se kamera pomera i da li prostor zadržava istu strukturu od početka do kraja.

Trajanje videa kao prvi trag

Jedna od stvari koju možete proveriti pre nego što uopšte počnete da gledate snimak jeste njegovo trajanje. Mnogi AI generatori proizvode klipove unapred definisanih dužina. To mogu biti pet, deset ili petnaest sekundi, zavisno od modela i načina generisanja. Ako naiđete na video koji traje tačno 15,000 sekundi, to može biti povod da malo bolje pogledate o čemu se radi. Isto važi i za klipove od 10,000 sekundi ili neke druge karakteristične dužine.

Ponekad se pojavljuju i neobično precizne vrednosti, recimo 15,084 sekunde. Takav podatak može biti zanimljiv kada pokušavate da utvrdite kako je snimak nastao, ali sam po sebi ne govori da je korišćena veštačka inteligencija.

Ovde treba biti oprezan. Običan video može biti montiran na tačno petnaest sekundi. Neko može da iseče snimak, ukloni početak i kraj ili ga prilagodi društvenoj mreži. Isto tako, AI generisani video može biti sastavljen od nekoliko zasebnih segmenata, pa ukupno trajanje bude dvadeset, trideset ili više sekundi.

Dakle, trajanje nije dokaz. Više je nešto poput registarske oznake koju ste zapazili dok prolazite ulicom. Ne govori vam ko je za volanom, ali može da vam skrene pažnju.

Predmeti koji ne umeju da ostanu isti

Ovo je već mnogo zanimljivije.

Zamislite snimak čoveka koji sedi za stolom i razgovara sa nekim. Ispred njega je čaša vode, pored nje telefon, a na stolu nekoliko papira. Sve izgleda sasvim normalno. Međutim, dok čovek pomera ruku, čaša u jednom trenutku dobije drugačiji oblik. Telefon se malo izduži. Papir promeni položaj, iako ga niko nije dodirnuo.

Pojedinačni kadrovi mogu izgledati sasvim dobro. Problem nastaje kada treba održati kontinuitet kroz čitav snimak.

AI generator mora da proizvede niz slika koje zajedno treba da predstavljaju jedan neprekinuti događaj. Predmet koji se pojavi na početku trebalo bi da ostane isti i nekoliko sekundi kasnije. Njegove dimenzije, položaj i izgled ne bi trebalo da se menjaju bez razloga.

Obratite pažnju i na natpise. Logo na majici, naziv prodavnice, tekst na reklamnom panou ili ekran telefona mogu izgledati sasvim uverljivo u jednom trenutku, a već u sledećem dobiti drugačija slova ili raspored. Nekada se pojavi tekst koji liči na nešto što možemo da pročitamo, ali kada pokušamo da ga razumemo, shvatimo da nema nikakvog smisla.

Posebno su zanimljivi predmeti koji nestanu iza osobe ili nekog drugog objekta, pa se ponovo pojave. Ako se tada promene njihov oblik ili detalji, imamo razlog za sumnju.

Nemojte odmah gledati lice glavnog aktera. Pogledajte ono što drži u ruci. Često je mnogo zanimljivije.

Pozadina ume da kaže više od glavnog aktera

Većina ljudi gleda ono što se nalazi u centru snimka. Ako je u pitanju čovek koji govori, gledamo njegovo lice, pokrete usana i ruke. Ako je automobil, gledamo automobil.

Kod provere AI videa korisno je uraditi upravo suprotno.

Pogledajte šta se događa iza glavnog objekta. Ljude koji prolaze ulicom, automobile, prozore, reklame, saobraćajne znakove, izloge i druge detalje koji nemaju nikakvu posebnu ulogu u samoj sceni.

Broj prozora na zgradi može se promeniti dok se kamera pomera. Automobil u pozadini može dobiti drugačiji oblik. Prolaznik koji je nekoliko trenutaka ranije stajao pored izloga može jednostavno nestati. Natpis na prodavnici može se promeniti u nešto što podseća na tekst, ali nema nikakvo značenje.

Ovakve stvari su posebno nezgodne zato što ih gledalac često ni ne registruje. Pažnja je usmerena na glavnog aktera, dok se ostatak slike doživljava kao dekoracija.

Međutim, pozadina je sastavni deo snimka. Ako se kamera pomera, ona mora da se ponaša u skladu sa tim pomeranjem. Ako osoba prolazi pored automobila, automobil ne bi trebalo da menja dimenzije samo zato što se nalazi na periferiji kadra.

Pokušajte da pogledate isti snimak nekoliko puta, ali svaki put obratite pažnju na drugi deo slike. Jednom gledajte osobu, drugi put pozadinu. Razlika ume da bude prilično zanimljiva.

Kada fizika počne da pravi probleme

AI može da napravi veoma lepu sliku vode, dima, vatre ili pokretnih predmeta. Problem je što vizuelno uverljiv prikaz ne znači da se sve ponaša onako kako bi trebalo u stvarnom svetu.

Voda može da izgleda kao voda, ali njen tok ne prati oblik posude. Dim se pomera u jednom pravcu, a zatim bez vidljivog razloga menja smer. Predmet koji bi trebalo da padne nastavlja da lebdi. Senka se pojavljuje na mestu koje ne odgovara položaju svetla.

Odrazi su posebno zanimljivi. Ako osoba stoji ispred ogledala, njen odraz trebalo bi da prati njene pokrete. Ako se na snimku pojavljuje refleksija u izlogu ili na površini vode, trebalo bi da odgovara objektima koji se nalaze ispred nje.

Kod AI videa takvi odnosi ponekad nisu dosledni. Svaki pojedinačni detalj može izgledati prihvatljivo, ali kada ih posmatrate zajedno, nešto ne funkcioniše.

Ovo je jedan od razloga zbog kojih snimak može da deluje sasvim stvarno dok ga gledamo u normalnoj brzini. Mozak brzo prihvata celinu i ne proverava svaki fizički odnos u sceni. Kada usporimo reprodukciju, pojedine nepravilnosti postaju mnogo vidljivije.

Pokreti ljudi i anatomija

Prsti su i dalje korisni za proveru, ali više nisu jedino mesto na kojem treba tražiti greške.

Posmatrajte hod. Da li se noge kreću u skladu sa ostatkom tela? Da li osoba zaista prenosi težinu sa jedne noge na drugu ili samo izgleda kao da hoda? Da li se ruke pomeraju prirodno ili menjaju položaj bez jasnog razloga?

Obratite pažnju na šake. Tokom pokreta mogu promeniti oblik, prsti mogu postati duži ili kraći, a položaj zglobova može izgledati drugačije između dva frejma.

Lice takođe može otkriti nepravilnosti. Zubi, oči i pojedini detalji mogu se menjati tokom govora. Odeća ponekad prolazi kroz telo ili se ponaša kao da nema nikakav odnos sa pokretima osobe koja je nosi.

Ipak, ne treba očekivati da će svaki AI video imati takve greške. Modeli su značajno napredovali i mnogi pokreti danas izgledaju veoma uverljivo. Zato je mnogo korisnije pratiti celokupno ponašanje osobe nego tražiti jednu anatomsku nepravilnost.

Kamera i perspektiva

Kada snimamo stvarni prostor, pomeranje kamere menja perspektivu. Objekti koji su bliže kameri pomeraju se drugačije od onih koji su udaljeniji. Zgrade, ulice, automobili i ljudi zadržavaju međusobne odnose čak i kada se ugao gledanja promeni.

Kod AI videa ponekad se događa da taj odnos nije dosledan.

Kamera se pomera, ali pozadina kao da klizi. Linije na zgradama menjaju pravac. Objekti menjaju položaj u odnosu jedni na druge. Perspektiva deluje sasvim dobro u jednom trenutku, a već nekoliko frejmova kasnije prostor počinje da se deformiše.

Ovo je naročito primetno kod snimaka u kojima kamera prolazi kroz prostoriju, prati osobu ili se okreće oko nekog objekta.

Pogledajte ivice zgrada, linije prozora, ivice stolova i druge geometrijske detalje. Oni bi trebalo da zadrže logičan odnos tokom kretanja kamere.

Ako se prostor menja na način koji ne možete da objasnite kretanjem kamere, vredi posumnjati u poreklo snimka.

Zvuk i govor

Slika nije jedini deo videa koji treba proveriti.

Ako osoba govori, obratite pažnju na pokrete usana. Da li odgovaraju izgovorenim rečima? Da li se usta pomeraju u skladu sa govorom ili postoji primetno kašnjenje? Da li glas odgovara osobi koju gledamo?

Slično važi i za ambijentalne zvukove. Ako neko hoda, trebalo bi da čujemo korake koji odgovaraju pokretima. Ako predmet padne na pod, zvuk bi trebalo da odgovara tom događaju. Ako se automobil kreće, zvuk motora i kretanje vozila trebalo bi da budu usklađeni.

Ponekad je slika veoma uverljiva, ali zvuk ne prati ono što se događa. To može biti posledica loše obrade, naknadno dodatog zvuka ili generisanja sadržaja različitim alatima.

Zato zvuk treba posmatrati kao još jedan izvor informacija, a ne kao nešto što automatski potvrđuje autentičnost slike.

Metapodaci i tehnička provera

Za one koji žele da odu korak dalje od gledanja snimka, postoje i tehničke metode provere.

Video fajl može sadržati različite informacije o svom nastanku i obradi. Tu spadaju podaci o korišćenom softveru, enkoderu, frejmrejtu, trajanju i strukturi video i audio streamova.

Na Linuxu za početak možete koristiti ffprobe:

ffprobe -v error -show_format -show_streams video.mp4

Dobićete informacije o kontejneru, formatima streamova, trajanju, frejmrejtu i drugim karakteristikama fajla.

Za detaljniju analizu metapodataka postoji ExifTool. On može prikazati informacije koje nisu odmah vidljive prilikom običnog pregledanja fajla.

Postoje i sistemi koji se bave poreklom i identifikacijom digitalnog sadržaja.

C2PA Content Credentials predstavlja sistem za beleženje podataka o poreklu i istoriji digitalnog sadržaja. Kada su odgovarajući podaci prisutni, mogu pomoći da se utvrdi kako je sadržaj nastao i kroz koje je procese prošao.

Google SynthID koristi tehnologiju označavanja AI generisanog sadržaja. Njena primena zavisi od podržanih sistema i dostupnosti odgovarajućih podataka.

Treba, ipak, razumeti jednu važnu stvar. Metapodaci nisu nepobitan dokaz. Mogu biti izmenjeni, uklonjeni ili izgubljeni tokom obrade i ponovnog izvoza videa. Običan snimak može ostati bez svojih prvobitnih informacija, dok prisustvo nekog softverskog potpisa ne mora automatski da znači da je ceo sadržaj generisan veštačkom inteligencijom.

Nema čarobne komande koja će vam pouzdano reći da li je svaki video lažan.

Gledajte ceo snimak, ne samo ono što vam je prvo privuklo pažnju

Najveća greška je oslanjanje na samo jedan indikator. Video koji traje tačno petnaest sekundi nije automatski generisan pomoću AI. Nedostatak metapodataka ne znači da je snimak lažan. Čudan pokret može biti posledica kompresije, montaže ili drugih problema u obradi.

Mnogo više smisla ima kada se nekoliko nezavisnih stvari poklopi. Predmet menja oblik, pozadina ne zadržava kontinuitet, perspektiva se deformiše, fizika ne funkcioniše, a zvuk ne odgovara slici. Tada već postoji sasvim dobar razlog da zastanete i proverite šta gledate.

Usporite reprodukciju. Vratite nekoliko sekundi unazad. Pogledajte frejmove. Posmatrajte detalje koji vam na prvi pogled nisu bili zanimljivi.

I nemojte odmah donositi zaključak da je snimak lažan. Sumnja je početak provere, a ne njen rezultat.

Možda je najvažnije promeniti jednu naviku. Do sada smo uglavnom pokušavali da procenimo da li je neki snimak ubedljiv. To više nije dovoljno. AI može da napravi nešto što izgleda ubedljivo, a da se događaj koji gledamo nikada nije desio.

Snimak može izgledati stvarno, a da nije dokument stvarnog događaja. Može prikazivati nešto što se nikada nije dogodilo, sa ljudima koji nikada nisu bili na tom mestu i rečima koje nikada nisu izgovorili.

A kada sledeći put na društvenim mrežama naiđete na spektakularan snimak koji svi masovno dele, možda vredi prvo pogledati šta se događa u pozadini. Nekada je tamo zanimljivija priča od one koju nam prikazuju u prvom planu.

⇧