Šta država, kompanija ili vlasnik velikog AI modela može da sazna ako milioni ljudi godinama poveravaju mašini svoja pitanja, dokumente, strahove i planove
Postavimo teorijsko, ali sasvim tehničko pitanje. . .
Recimo da javni kineski AI model koristi milion ljudi u Srbiji. Među njima su obični korisnici, novinari, profesori, programeri, direktori, državni službenici, političari, ljudi iz vojske, energetike, telekomunikacija i drugih važnih sistema.
Šta neko ko raspolaže svim tim podacima može da uradi?
Ljudi obično zamišljaju filmsku verziju. Negde u ogromnom podrumu sedi operater, čita pojedinačne razgovore i pravi fascikle sa crvenim pečatom. U stvarnosti bi pojedinačni razgovor često bio skoro bezvredan. Milion razgovora iz iste zemlje, prikupljanih godinama i povezanih sa nalozima, IP adresama, uređajima, lokacijama i obrascima ponašanja, nešto su sasvim drugo. . .
To više nije zbir razgovora. To je društveni senzor.
Javni AI servis potencijalno može da raspolaže sadržajem pitanja i odgovora, vremenom razgovora, IP adresom, približnom lokacijom, podacima o nalogu, mejlom ili brojem telefona, informacijama o uređaju i operativnom sistemu, istorijom razgovora, dokumentima, slikama i audio-snimcima koje je korisnik poslao.
Tu su i podaci koji na prvi pogled izgledaju bezazleno: koje odgovore korisnik prihvata, šta odbija, šta traži da se prepravi, kojim temama se vraća i kako mu se stavovi menjaju kroz vreme.
Ako milion ljudi pita koji bojler da kupi, to je uglavnom komercijalna statistika. Ako hiljade državnih službenika, političara, novinara, oficira, direktora i savetnika koriste isti sistem kao poverljivog kolegu, onda počinje ozbiljnija priča.
Prvi nivo moguće zloupotrebe jeste profilisanje pojedinaca.
Političar može javno da govori jedno, a privatno da pita:
„Kako da odgovorim na pritisak iz stranke?”
„Da li ova odluka može izazvati proteste?”
„Prepravi ovaj interni dokument.”
„Analiziraj slabosti protivkandidata.”
„Kako da građanima objasnimo novo poskupljenje?”
Možda nigde nije napisao svoje ime. Ali nalog, IP adresa institucije, službeni dokument sa metapodacima, karakterističan stil pisanja i vreme razgovora mogu znatno da suze identitet.
Ljudi često misle da su anonimni zato što nisu napisali JMBG. Onda pošalju Word dokument pod nazivom:
`FINAL_KABINET_MINISTRA_v7_STVARNO_FINAL.docx`
Anonimnost je time administrativno završena.
Drugi nivo je mapiranje institucija.
Nije neophodno znati ko je svaki pojedinac. Dovoljno je primetiti da se sa mreže neke institucije tokom nekoliko nedelja naglo pojavljuju pitanja o:
„restrukturiranju energetskog sektora”
„pravnim posledicama raskida međunarodnog ugovora”
„kriznoj komunikaciji posle curenja podataka”
„proceduri mobilizacije rezervnog sastava”
Svako pitanje pojedinačno možda ne znači mnogo. Kada se povežu vreme, učestalost, institucija i promena tema, može se naslutiti šta se priprema pre nego što postane javno.
To je slično analizi mrežnog saobraćaja. Ne moraš da pročitaš svaki paket. Ponekad su metapodaci, obrazac i promena intenziteta dovoljni.
Treći nivo je društveni rendgen.
Ako milion ljudi iz Srbije godinama razgovara sa istim sistemom, vlasnik podataka može statistički da vidi šta ljude zaista plaši, koliko veruju vlasti, opoziciji, Evropskoj uniji, Rusiji, Kini, Crkvi i medijima, koje teorije brzo rastu, gde postoji ekonomsko nezadovoljstvo, ko razmišlja o odlasku iz zemlje i koje teme izazivaju bes.
Mogu se analizirati stavovi prema Kosovu, sankcijama, vojsci, protestima, litijumu, cenama i međunarodnim odnosima.
Klasična anketa postavi čoveku dvadeset pitanja. Čovek zna da učestvuje u anketi, bira reči i često govori ono što smatra društveno prihvatljivim.
AI razgovor može da sadrži nekoliko godina spontanih dilema. . .
Ljudi modelu govore ono što ne bi rekli anketaru, novinaru, kolegi, ponekad ni porodici. Ne ostavljaju samo mišljenje. Ostavljaju način na koji su do tog mišljenja došli, mesta na kojima se dvoume i argumente koji mogu da ih pomere.
To je politički mnogo vrednije od obične ankete.
Četvrti nivo je pronalaženje slabih tačaka društva.
Nije naročito korisno napraviti spisak ljudi koji su protiv neke vlasti. Mnogo korisnija pitanja bila bi:
Koje poruke najbolje deluju na ljude između 25 i 40 godina?
Koji argument povećava nepoverenje prema Evropskoj uniji?
Koja tema deli opozicione birače?
Šta izaziva sukob između dve političke grupe?
Kako različite društvene grupe reaguju na priče o Kosovu, litijumu, sankcijama ili cenama?
Sa dovoljno razgovora moguće je napraviti veoma precizan model političke psihologije jedne zemlje.
Tu dolazimo do manipulacije.
Najprimitivnija verzija bila bi da AI otvoreno kaže: „Glasajte za kandidata X.” To bi bilo providno.
Mnogo suptilniji sistem mogao bi jednoj grupi stalno da naglašava korupciju Zapada, drugoj ekonomsku korist saradnje sa Kinom, trećoj da sugeriše da je politika besmislena i da nema svrhe glasati, a četvrtoj da pojačava sukob sa susednom političkom grupom.
Model ne mora da izgovori nijednu laž.
Dovoljno je da bira okvir.
Ako korisnik pita:
„Da li ima smisla protestovati?”
jedan model može da navede istorijske primere uspešnih protesta.
Drugi može da govori o neuspesima, podelama, ličnom riziku i posledicama.
Oba odgovora mogu biti činjenično tačna. Ali posle deset miliona takvih malih izbora može nastati politički efekat bez ijedne zvanične propagandne poruke.
Propagandni plakat znaš da je propagandni plakat. AI doživljavaš kao privatnog, neutralnog sagovornika koji ti pomaže da razmisliš.
A poverenje je administratorski privilegovan nalog ljudske psihe.
Posebna priča su dokumenti. . .
Ljudi već ubacuju ugovore, zapisnike, interne mejlove, izvorni kod, mrežne konfiguracije, finansijske tabele, pravne sporove, neobjavljene govore, političke strategije i bezbednosne procedure.
Neko napiše:
„Samo mi ispravi gramatiku.”
Zatim pošalje dokument koji nikada nije smeo da napusti internu mrežu. . .
Ako se takvi podaci centralno čuvaju, mogu se pretraživati, povezivati i analizirati. Nije potreban čovek koji će čitati milijardu razgovora. Drugi modeli mogu da dobiju zadatak:
„Pronađi dokumente koji ukazuju na probleme u elektroenergetskoj infrastrukturi Srbije.”
„Izdvoji zaposlene koji izražavaju ozbiljno nezadovoljstvo rukovodstvom.”
„Pronađi podatke o neobjavljenim pregovorima sa stranim kompanijama.”
To je data mining nad kolektivnim neoprezom. . .
Ipak, mora se razlikovati tehnička mogućnost od dokaza da se nešto zaista radi.
Ne znamo automatski koliko dugo određeni servis čuva podatke, da li su razgovori trajno povezani sa identitetom, ko ima pristup, da li se koriste za treniranje, kakve interne kontrole postoje i pod kojim uslovima država može da zahteva podatke.
Između mogućnosti i tvrdnje postoji dokaz. . .
Internet taj srednji korak često preskoči, pa odmah dobije kineskog oficira koji u tri ujutru čita recept za pasulj.
Ali geopolitički gledano, veliki javni AI sistem može da postane nešto novo:
dobrovoljno popunjavan društveni obaveštajni sistem.
Niko nije morao da postavi prislušni uređaj.
Ljudi sami otvore nalog i napišu:
„Evo moje situacije. Evo dokumenta. Evo čega se plašim. Evo šta planiramo. Reci mi šta misliš.”
I još se žale ako odgovor kasni četiri sekunde.
Za običnog čoveka najveći praktični rizik verovatno nije politički progon zbog pitanja o Linuxu. Realniji rizici su curenje baze, povezivanje identiteta, komercijalno profilisanje i buduća upotreba podataka u svrhe koje danas možda još ne postoje.
Za političara, diplomatu, oficira, državnog službenika, novinara koji štiti izvore ili čoveka zaposlenog u kritičnoj infrastrukturi računica je drugačija. . .
Pravilo bi zato trebalo da bude isto kao za javni GitHub ili tuđi cloud:
Ne šalji ništa što ne bi želeo da jednog dana vidiš u tuđoj bazi.
AI chat izgleda kao razgovor u četiri oka.
Tehnički je mnogo bliži terminalu povezanom sa ogromnom udaljenom bazom podataka čija pravila, administratore, politiku čuvanja podataka i budućeg vlasnika uglavnom ne poznaješ. . .
A Balkan je već istorijski pokazao da ume da napravi ozbiljan problem sa tri fascikle, jednim telefonskim imenikom i čovekom koji „zna nekoga”.
Sa milijardama privatnih razgovora mogućnosti postaju ozbiljno neprijatne.