Internet je odavno prestao da me pita šta želim

Internet je odavno prestao da me pita šta želim

Već mesecima prijavljujem reklame.

Ne one očigledne. Ne političke manipulacije, ne teorije zavere, ne ono „zaradi 12.000 evra mesečno iz dnevne sobe“. Njih sam odavno otpisao, kao što otpišeš buku s ulice koju više ni ne čuješ.

Prijavljujem one druge. . .

Reklamu za hotel koja se predstavlja kao „porodični odmor“, a kamera dvadeset sekundi obilazi devojke koje izgledaju kao da je jeftin porno film za srednješkolce.

Na primer, ovako izgleda jedna od reklama. Sama fotografija ne pokazuje problem u potpunosti, jer je poenta u načinu na koji je snimljen ceo video. Hotel je formalno proizvod, ali je vizuelni fokus gotovo sve vreme na telima devojaka pored bazena. Ne tvrdim da to nužno krši pravila platforme. Upravo u tome i jeste poenta. Takav sadržaj je napravljen da ostane tik ispod granice, dovoljno sugestivan da privlači pažnju, a dovoljno „bezbedan“ da moderacija zaključi kako formalno nema prekršaja.

Temu reklamu koja prodaje običan kuhinjski alat, ali kadar izgleda kao isečak iz soft porn filma iz devedesetih. . .

Kladionice koje su odavno shvatile da se sport mnogo bolje prodaje ako u kadar ubaciš Ron Džeremija. Nekad otvoreni fut fetiš upakovan u „lifestyle“. Nekad sadržaj koji očigledno pokušava da bude tačno onoliko provokativan koliko pravila još dozvoljavaju.

Prijaviš.

Sačekaš. . .

Nekoliko sati kasnije stiže odgovor: „Sadržaj ne krši standarde zajednice.“

Prvi put slegneš ramenima. Deseti put pomisliš da sistem možda stvarno ne vidi ono što vidiš ti. Pedeseti put više ne misliš o reklami. Pedeseti put počneš da razmišljaš o mašini koja je pogledala isti snimak kao i ti i potpuno hladno zaključila da je sve u redu. . .

Pošto imam profesionalnu deformaciju da rasturam stvari na sastavne delove dok ne vidim kako rade, krenuo sam da kopam po tome kako danas funkcioniše analiza slika i videa. Ne Meta konkretno, uopšte. Kakvi modeli postoje, šta umeju, gde greše, gde su im granice. . .

Problem nije što algoritam ne vidi. Naprotiv. . .

Današnji modeli vide mnogo više nego što većina ljudi misli. Postoji neka uporna predstava da računari i dalje funkcionišu kao da negde u server sali sedi digitalni stric koji broji piksele boje kože, pređe li prag, upali se crvena lampica. To odavno nije tako.

Savremeni multimodalni modeli danas veoma dobro razumeju šta gledaju. Ne vide samo da je na slici žena. Vide da hoda plažom, da kamera pravi krupan plan nogu, da je kadar usporen, kakva je atmosfera i stil snimanja. Problem više nije da li računar vidi. Problem je šta treba da uradi sa onim što je video. . .

I tu većina rasprava ode u pogrešnom smeru. Ljudi pitaju: „Pa kako onda ne ukloni reklamu?“ Zato što to više nije isto pitanje. Opisati kadar i doneti odluku nisu ista stvar. To je otprilike kao da forenzičar opiše mesto nesreće, a sudija treba da presudi. Jedan utvrđuje činjenice. Drugi primenjuje pravila.

Ovde postoji još jedna stvar koja se skoro nikad ne objašnjava. . .

Kad kažemo „algoritam“, zamišljamo jednu kutiju koja kaže „da“ ili „ne“. U stvarnosti postoje različiti sistemi. Jedan opisuje sadržaj. Drugi proverava pravila. Treći optimizuje pažnju. I svaki radi upravo ono za šta je napravljen.

A zapravo govoriš o nekoliko potpuno različitih sistema sa potpuno različitim ciljevima. Prvi pokušava da razume sadržaj, njega zanima šta se nalazi na slici. Drugi pokušava da primeni pravila platforme, njega zanima da li ono što je prvi video formalno prelazi granicu. Treći pokušava da zadrži korisnika što duže, njega iskreno ne zanima ni umetnost, ni moral, ni pristojnost. Njega zanima statistika. Klik. Komentar. Deljenje. Još trideset sekundi gledanja. Još jedan video. Još jedna reklama. . .

Kad to razdvojiš u glavi, odjednom mnogo stvari počinje da ima smisla. Može sasvim lepo da se desi da prvi sistem savršeno razume da kamera dvadeset sekundi obilazi žensko telo. Drugi sistem kaže da to formalno nije zabranjeno. Treći primeti da ljudi takav sadržaj gledaju duže od proseka. I sva trojica su uradila svoj posao. To je upravo način na koji je sistem napravljen.

Nigde ne postoji jednačina koja kaže da kamera sme tri sekunde da stoji na nogama, četiri sekunde na licu, a petu sekundu već ulazimo u seksualizaciju. Ne postoji pravilnik u kome piše da je ugao kamere od trideset stepeni umetnost, a od četrdeset marketing niskih strasti. Uzmi četiri reklame, jedna prodaje kupaće kostime, druga promoviše modnu kolekciju, treća reklamira letovanje, četvrta prodaje odvijač ali izgleda kao da je ispala iz istog studija koji snima sadržaj za odrasle. Na nivou piksela, razlike možda nisu velike. Na nivou namere, jesu. . .

I upravo tu računari upadaju u problem koji nije tehnički nego ljudski. Mi često govorimo da je neka reklama „seksualizovana“, ali zapravo mislimo nešto mnogo komplikovanije. Ne mislimo da prikazuje telo, tela postoje. Ne mislimo ni da prikazuje privlačne ljude, i oni postoje. Mislimo da koristi određeni vizuelni jezik kako bi zaobišla naš racionalni deo mozga i pogodila direktno ono što marketing voli da pogodi. Pažnju. To je ogromna razlika. Pikseli nisu isto što i poruka. Dve potpuno iste fotografije mogu imati potpuno različito značenje u zavisnosti od konteksta. Ljudi to razumeju gotovo instinktivno. Računar to mora nekako da pretvori u pravilo. A pravila ne vole sivu zonu.

I tu bih možda i stao, da se pre neki dan nije pojavila vest o Faraonu.

Znate o čemu pričam. Prema navodima Ministarstva unutrašnjih poslova, osoba koja je upravljala tim profilom osumnjičena je za dela povezana sa seksualnom eksploatacijom maloletnika, a sadržaj je godinama bio prisutan na više platformi.

Godinama. . .

I odmah krene isto pitanje: jbt, kako algoritam ovo nije video?

Verovatno jeste video. Samo je pitanje šta je tačno gledao. Jedna objava možda sama za sebe nije izgledala dovoljno problematično. Druga takođe. Treća isto. Ali kada ih pogledaš zajedno kroz nekoliko godina, odjednom vidiš obrazac koji pojedinačne objave nisu otkrivale. To je ogromna razlika. Postoji razlika između pitanja „Da li ova fotografija krši pravila?“ i pitanja „Da li ovaj nalog godinama sistematski gradi zajednicu oko određene ideje?“ Prvi je klasifikacija sadržaja. Drugi je analiza ponašanja kroz vreme. To je daleko teži zadatak.

Današnji modeli veoma dobro prepoznaju eksplicitnu golotinju, grafičko nasilje, poznate obrasce zahvaljujući bazama digitalnih otisaka. Ali mnogo teže prepoznaju simboliku. Ironiju. Insinuaciju. Unutrašnje šifre neke zajednice. Humor koji spolja izgleda potpuno bezazleno, a ljudima koji su deo određene grupe znači nešto sasvim drugo.

I tu, negde između reklame za hotel i Faraona, počinje da se nazire nešto mnogo veće od oba primera.

Jer reklama je iritantna. Faraon je ozbiljan. Ali oba slučaja otkrivaju istu arhitekturu, sistem u kome ti, kao korisnik, imaš na raspolaganju tačno jedan alat. Dugme. „Prijavi.“

Mesecima sam mislio da je moj problem u tome što algoritam ne vidi seksualizovane reklame. Onda sam pomislio da je problem u tome što ih vidi, ali ih ignoriše. Onda sam pomislio da je problem u pravilima, u moderaciji, u sistemu preporuke.

Ali nije. . .

Moj problem je bio mnogo jednostavniji i mnogo dublji. Mesecima sam pokušavao da rešim problem pogrešnim dugmetom. Jer „Prijavi“ je jedino što mi je ostalo.

Nekada je bilo sasvim normalno da napraviš listu interesovanja. Da pratiš deset RSS feedova. Da se pretplatiš na tri foruma i nikada ne vidiš četvrti. Da kažeš: zanimaju me Linux, astronomija i istorija, a sport me ne zanima. Internet nije bio savršen, ali je polazio od pretpostavke da korisnik zna šta želi. Danas se mnogo češće polazi od pretpostavke da će sistem to bolje proceniti od njega.

Razmislite o tome na trenutak. Kad ste poslednji put na nekoj platformi videli dugme koje kaže: „Ne želim da vidim ovakav sadržaj“? Ne da prijavite konkretnu objavu. Nego da kažete, ne zanimaju me kladionice, ne zanimaju me reklame koje koriste seksualizovan marketing, ne zanimaju me influenseri. Želim hronološki prikaz. Želim da vidim šta su moji prijatelji objavili, onim redom kojim su objavili.

To dugme ne postoji. Postojalo je nekad, u nekom obliku. Liste interesovanja. Hronološki fid. Mogućnost da kažeš: ovo je moj prostor, ja određujem šta ulazi u njega. Danas imaš „Prijavi“.

I to nije slučajno.

Platforme nisu pravljene da ti uređuješ svoj prostor. Pravljene su da one uređuju tvoj prostor. Kad otvoriš Fejsbuk, ti ne ulaziš u svoj profil na način na koji ulaziš u svoj stan. Ti ulaziš u prostor koji neko drugi uređuje za tebe, a tebi daje iluziju da si domaćin. I ta iluzija je toliko dobro napravljena da je većina ljudi ni ne preispituje.

Zato je „Prijavi“ ostalo, a „Izaberi šta želiš da vidiš“ praktično nestalo. „Prijavi“ je ventil. To je onaj mali otvor kroz koji ispuštaš frustraciju da ne bi eksplodirala. Klikneš, dobiješ odgovor, osetiš se kao da si nešto uradio. A sistem nastavlja da radi ono što je oduvek radio, optimizuje tvoju pažnju.

I sad dolazimo do onoga što rade iskusni korisnici. Oni koji znaju već godinama.

Oni se više ne svađaju. Ne pišu žalbe. Ne vode kampanje. Ne klikću „Prijavi“ sa nadom da će se nešto promeniti. Oni gase komentare, zaključavaju profile, koriste mute i block ne kao poslednje sredstvo nego kao prvu liniju odbrane. Prelaze na RSS, instaliraju adblock, SponsorBlock, userscriptove. Povlače se u privatne grupe, Signal grupe, Discord servere, mailing liste. Oni ne pokušavaju da poprave internet. Oni prave mali internet unutar interneta.

To je ogroman civilizacijski signal.

Kada dovoljno veliki broj ljudi prestane da pokušava da promeni sistem i umesto toga počne da gradi paralelne sisteme, to nije tehničko pitanje. To je znak da je ugovor između platformi i korisnika pukao. Ne formalno i dalje klikćeš „Prihvatam uslove korišćenja“. Nego suštinski. Ljudi više ne veruju da platforme rade u njihovom interesu.

I tu se vraćam na Faraona. I na reklame. I na sve ono što sam prijavljivao mesecima.

Jer ono što povezuje reklamu za hotel koja obilazi noge devojke i profil koji je godinama gradio zajednicu oko seksualne eksploatacije maloletnika nije sadržaj. Nije ni algoritam. Ono što ih povezuje je činjenica da su oba fenomena opstajala u istom ekosistemu. Ekosistemu koji je optimizovan za pažnju, a ne za bezbednost. Za angažovanje, a ne za pristojnost. Za zadržavanje korisnika, a ne za zaštitu korisnika.

I taj ekosistem nije nastao greškom. On je dizajniran.

I to je ono što me najviše muči. Ne da je sistem pokvaren. Nego da radi tačno onako kako je zamišljen.

Odatle nastaje još jedna zabluda koju stalno viđam. Ljudi misle da algoritam ne razume sugestivnost. Plašim se da je razume mnogo bolje nego što bismo voleli. Samo mu niko nije rekao da sugestivnost sama po sebi nije zabranjena, osim kada postane deo obrasca. A obrasce sistem ne gleda. Sistem gleda pojedinačne objave. To je kao da saobraćajnu policiju zadužiš da gleda samo pojedinačne automobile, a niko ne prati da li postoji organizovana grupa koja svake noći sistematski krši pravila na isti način.

Računari su poslednjih godina neverovatno napredovali u razumevanju onoga što gledaju. Mi smo, čini mi se, mnogo sporije napredovali u definisanju onoga što od njih zapravo očekujemo. Od njih tražimo da razlikuju umetnost od manipulacije, provokaciju od eksploatacije, humor od ponižavanja. To nisu problemi računarskog vida. To su problemi društva. I što više učim kako ti sistemi rade, sve manje se ljutim na algoritam. Počinjem da se ljutim na pitanja koja mu postavljamo. I na pitanja koja smo prestali da postavljamo sebi.

Jer postoji nešto što se promenilo toliko sporo da to nismo ni primetili.

Društvo se retko menja spektakularno. Mnogo češće se menja tiho. Malo po malo. Toliko sporo da tek posle deset godina shvatiš da si navikao na nešto što bi ti ranije bilo čudno. Nije problem jedan bilbord. Problem je što ga vidiš svakog jutra dok ideš na posao. Posle mesec dana prestaneš da ga registruješ. Posle godinu dana počneš da misliš da je oduvek bio tu. Internet radi istu stvar. Samo mnogo brže i mnogo preciznije.

Zato mislim da se previše energije troši na pitanje: „Da li ova objava krši pravila?“ To jeste važno pitanje. Ali nije jedino. Sve češće imam utisak da nas niko ne pita šta se dešava kada deset godina svaki dan gledamo sadržaj koji je optimizovan ne za našu dobrobit, ne za naše interesovanje, ne za našu zajednicu, nego za naše najprimitivnije psihološke okidače.

To nije pitanje za programera. Nije ni za pravnika. To je pitanje za sve nas.

I zato ću verovatno još neko vreme kliknuti „Prijavi“. Iz navike. Kao što čovek još neko vreme pritiska prekidač za svetlo u kući iz koje se već iselio.

Ali sve manje verujem da se problem može rešiti tim dugmetom. Ili bilo kojim drugim dugmetom koje je platforma ostavila korisnicima. To više nisu alati. To su ventili. Dovoljni da stekneš utisak da učestvuješ. Nedovoljni da promeniš bilo šta.

Mesecima sam mislio da prijavljujem reklame.

Na kraju sam shvatio da sam prijavljivao sopstvenu nemoć.

A onda mi je postalo jasno još nešto.

Sve vreme sam razmišljao kako bi internet mogao da bude bolji. Kako bi algoritam mogao bolje da razume. Kako bi moderacija mogla bolje da radi svoj posao.

Pogrešno pitanje.

Pravo pitanje je mnogo jednostavnije.

Šta bi mene danas zadržalo ovde?

I što duže razmišljam, odgovor mi sve više izmiče.

Ne zato što ne postoji bolji algoritam. Ne zato što nedostaje još jedno podešavanje ili još jedno dugme u meniju. Nego zato što je osnovna ideja postala drugačija. Internet više nije mesto koje uređujem ja. To je prostor koji uređuje neko drugi, a meni povremeno dozvoli da pomerim po koju stolicu.

Takav internet više ne želi da budem korisnik. Korisnik bira. On želi da budem konzument. Da gutam šta god mi stavi ispred. Da reagujem, ne da biram. Da ostanem, ne da odlučujem.

I možda je baš to trenutak kada shvatiš da nema smisla tražiti bolje dugme za prijavu. Nema smisla ni čekati da sledeća verzija algoritma bude pametnija.

Jer problem nije u tome što me internet više ne razume.

Problem je što više nema potrebu da me pita.

A kada neko prestane da te pita šta želiš, teško da postoji kozmetička promena koja će vas ponovo spojiti.

Zato mislim da uskoro više neću ni prijavljivati reklame.

Ne zato što sam odustao od interneta.

Nego zato što je internet odustao od korisnika kakav sam bio.