Gledao sam na YouTube-u razgovor Erika Weinsteina sa Stevenom Bartlettom, objavljen 12. oktobra na kanalu The Diary of a CEO. Naslov je o tajnim programima i vanzemaljcima, pa sam očekivao još jednu od onih emisija u kojima se nekoliko sati vrti ista priča. Onda je razgovor skrenuo na veštačku inteligenciju, budućnost ekonomije i pitanje šta ostaje od društva ako mašina počne da obavlja veliki deo posla zbog kojeg smo do sada jedni drugima bili potrebni.
Weinstein je matematičar i fizičar, čovek koji godinama razgovara sa ljudima koji sede pri samom vrhu te trke. U jednom trenutku priča o Samu Altmanu i Dariju Amodeiju, ljudima koje lično poznaje. Kaže da je u jednom trenutku bio u razgovoru da se pridruži OpenAI-ju, ali da nije hteo da bude deo nečega što bi ga, po njegovim rečima, nateralo da bude nemilosrdan.
Za Darija kaže da ga vidi kao veoma etičnog čoveka koji pokušava da radi ispravno. Za Sama kaže da je još pre nego što je postao ovaj Sam Altman koga danas svi znaju bio zabrinut zbog toga šta bi AI mogao da uradi tržištu rada. Weinstein pritom više puta naglašava da govori o ljudima koje poznaje i da ne može da govori u njihovo ime.
To, naravno, nije dokaz njihovih namera.
To je Weinsteinov pogled na ljude koje poznaje.
Ali onda kaže nešto mnogo zanimljivije.
Pričajući o tome može li se razvoj AI zaustaviti, kaže:
„This is going to happen because it’s linear algebra. You can’t stop linear algebra.“
Ovo će se dogoditi zato što je u pitanju linearna algebra.
Ne možeš da zaustaviš linearnu algebru.
To zvuči kao jedna od onih rečenica koje čovek izgovori i onda svi na internetu počnu da je prepisuju kao da je upravo pronađen novi zakon fizike.
Nije.
AI nije samo linearna algebra. Tu su podaci, optimizacija, nelinearnosti, arhitektura modela, softver, memorija, algoritmi, ogromna količina računanja i gomila inženjerskog posla.
Ali poenta je mnogo nezgodnija.
Kada jednom znaš matematičku i računarsku tehniku, veoma je teško zabraniti samu tehniku.
Ne možeš da zabraniš množenje matrica na GPU-u.
Možeš da kontrolišeš ko ima GPU.
Možeš da kontrolišeš koliko računarskih resursa ima, šta sme da pokrene, kome sme da pristupi i šta sme da uradi.
Ali samu matematiku ne možeš da vratiš u bocu.
Weinstein čak nekoliko minuta ranije koristi upravo GPU i linearnu algebru kao primer problema sa kontrolom razvoja. Teško je pratiti ko sve računa šta na GPU-ovima.
A onda sam se setio prethodnog teksta.
Tamo smo ostali u jednoj radionici.
AI nije još pravio sam sebe. Počeo je da sređuje ono oko sebe. Menjao je alate, memoriju, tok rada, način pretrage, evaluaciju, čak i okruženje u kojem radi.
Tada je to izgledalo kao nekoliko zanimljivih eksperimenata.
Sada se pojavljuje još jedan problem.
Radionica počinje da pamti.
Nekoliko dana posle tog intervjua pojavio se rad koji mi je još više pomerio celu priču.
Zove se Agent Plasticity: Measuring Self-Improvement Through Experience.
Ideja je jednostavna, ali posledice nisu.
Agent može da svoje prethodno iskustvo pretvori u nešto što ostaje iza njega kao upotrebljiv artefakt. Sledeća instanca ne mora da počinje baš od nule. Nasleđuje nešto od prethodne.
To je veoma blizu onome što čovek radi kada ostavi belešku sledećoj smeni.
„Nemoj ovako.“
„Probaj ovako.“
„Ovaj alat radi.“
„Ovaj benchmark laže.“
„Na ovom problemu sam izgubio tri sata.“
Sledeći dođe, pročita i nastavi.
Ako to radi čovek, zovemo ga iskustvom.
Ako to radi AI sistem, počinjemo da koristimo mnogo ozbiljnije reči.
Nasleđivanje.
Transfer iskustva.
Samopoboljšavanje.
A onda dolazi još jedna stvar.
Anthropic je 12. oktobra objavio eksperiment u kojem su ispitivali može li AI da se reprodukuje na običnim uređajima, bez pristupa velikom data centru. U eksperimentima su koristili, između ostalog, jeftine Android TV uređaje. Model treba da pronađe uređaj, obezbedi izvršavanje, pokrene inference, kopira ono što mu je potrebno i nastavi dalje.
Ne, nisu napravili Skynet koji se noću sam širi po internetu.
To nije demonstrirano.
Ali su pokazali da modeli već danas mogu da izvedu veliki broj pojedinačnih koraka potrebnih za takvu reprodukciju, a da su u pojednostavljenim testovima jači modeli uspeli da sastave ceo lanac.
I tu mi se Weinsteinova priča o veštačkoj inteligenciji i veštačkom životu vratila u glavu.
On pravi jednu neobičnu razliku.
AI nije zanimljiv samo zato što je pametan.
Zanimljiv je kada se spoji sa nečim što može da se reprodukuje.
Softver je, za razliku od automobila ili šrafa, stvar koju možemo relativno lako kopirati.
Ako dobiješ sistem koji ume da prenese svoje stanje, pronađe resurse, napravi kopiju i nastavi da radi, dobijaš nešto što više nije samo program koji čeka čoveka da ga pokrene.
Opet, ne znači da smo stigli do veštačkog života.
Ali znači da je pitanje postavljeno na mnogo nezgodnijem mestu nego ranije.
U samom intervjuu Weinstein upravo tako spaja AI i veštački život. Njegov argument je da softver ima osobinu koju kod fizičkih objekata teško umemo da napravimo: nasledjivanje. Ako postoji prenošenje, varijacija i različit uspeh, počinje da radi nešto nalik evoluciji.
***
A onda je Weinstein prešao na ono što je meni možda najzanimljiviji deo celog razgovora.
Ekonomiju.
Pitao ga Bartlett šta će biti sa ljudima kada AI počne da radi sve više poslova.
Weinstein ne voli ideju UBI-ja.
Kaže vrlo direktno da se nada da svet neće završiti tako što će ljudima samo isplaćivati osnovni prihod. Njegova zamerka nije samo ekonomska. On smatra da bi takav sistem čoveka izbacio iz same mreže kroz koju dobija posao, signal da nešto dobro radi, novac i osećaj da učestvuje u društvu.
Njegova ideja je drugačija.
Ako AI postaje novi dobavljač rada, onda bi ljudi koji su deo tog tržišta trebalo da imaju neko pravo nad pristupom sopstvenom radu.
Tu uvodi Ronalda Coasea i ideju da se pristup tržištu rada posmatra kao prenosivo imovinsko pravo.
Primer koji daje je jednostavan.
Ako poslodavac umesto domaćeg radnika dovede jeftiniju radnu snagu iz druge zemlje, radnik gubi deo prihoda. Weinstein kaže: dobro, neka poslodavac dovede koga hoće, ali onda radnik treba da ima pravo na deo vrednosti tog pristupa tržištu.
Dakle, ne sprečavaš promenu.
Naplaćuješ je.
On to objašnjava kao licensing income. Plata može da padne, ali čovek dobija prihod od prava koje je dao poslodavcu da promeni strukturu radne snage.
A onda tu ideju prenosi na AI.
Ako AI postane novi dobavljač rada, ko dobija novac?
Kompanija koja poseduje model?
Kompanija koja poseduje računare?
Onaj ko poseduje podatke?
Autor knjige?
Programer?
Fotograf?
Čovek koji je napisao odgovor na nekom forumu pre petnaest godina?
Ili svi zajedno?
Tu Weinstein koristi mnogo grublju reč.
Kaže da je čitavo ljudsko stvaralaštvo tokenizovano, uzeto i stavljeno u trajno skladište. Kao primer pokazuje upravo razgovor koji u tom trenutku vode.
Mi pričamo.
Kamera snima.
YouTube napravi transkript.
Neko može da pretražuje svaku reč.
Može da radi frequency analysis.
Može da meri koliko puta Weinstein koristi neku gramatičku konstrukciju.
Može da analizira Bartlettov govor.
Može da izdvoji teme, rečenice, argumente, način govora.
A intervju više nije samo intervju.
Postao je podatak.
To je ono što Weinstein naziva tokenizacijom svega.
Tehnički gledano, termin je širi nego što se koristi u mašinskom učenju. Tokenizacija nije bukvalno pretvaranje celog sveta u tokene.
Ali kao opis procesa, ideja je prilično dobra.
Sve više ljudskog iskustva ostavlja digitalni trag.
Knjiga.
Fotografija.
Kod.
Forum.
Komentar.
Video.
Predavanje.
Razgovor.
Čak i ovaj tekst.
Sve to može da se pretvori u nešto što mašina može da pročita, pretraži, poredi i koristi.
Weinstein baš na primeru njihovog razgovora govori o automatskom transkriptu, analizi učestalosti reči i načinu na koji njih dvojica ostaju kao trag u persistent storage.
A kada mašina nauči da radi dovoljno dobro ono što su ljudi godinama radili, pitanje se pomera.
Više nije samo:
Koliko je AI pametan?
Nego:
Čiji je rad od kojeg je napravljen?
***
Ovo nije nova rasprava.
Još 2021. istraživači su pokazali da veliki jezički modeli mogu da reprodukuju delove podataka iz kojih su učeni, uključujući tekstove sa interneta.
Kasnije su kreativci počeli mnogo otvorenije da pitaju isto pitanje iz druge perspektive.
Ko je dao dozvolu?
Ko dobija kredit?
Ko dobija novac?
I šta uopšte znači „moj rad“ kada se milijarde ljudskih doprinosa spoje u jedan model?
Tu nema jednostavnog odgovora.
I dobro je što ga nema.
Jer ako kažemo da sve pripada autoru, kako odrediti čiji deo?
Ako pripada svima, ko raspodeljuje?
Ako pripada kompaniji koja je napravila model, šta onda radimo sa ljudima čiji su radovi omogućili da taj model uopšte postane koristan?
A ako kažemo da ništa ne treba platiti jer je „AI samo naučio“, onda ostaje vrlo neprijatno pitanje.
Kako se razlikuje učenje od korišćenja?
Weinstein je mnogo manje oprezan od ovoga i otvoreno koristi reč „theft“, odnosno krađa, za ono što smatra nekompenzovanim preuzimanjem ljudskog rada. To je njegova politička i ekonomska ocena, ne činjenica koju treba ovde predstavljati kao rešeno pravno pitanje.
***
Brojke pokazuju zašto ovo više nije filozofska rasprava za vikend.
Jedan IMF rad iz jula procenjuje da je trenutna AI ušteda vremena ekvivalentna trošku rada od oko 2,7 biliona dolara godišnje.
To nije 2,7 biliona novih dolara koje je AI napravio.
Nije ni procena direktnog rasta BDP-a.
To je procenjeni godišnji trošak rada čije vreme AI trenutno štedi, na osnovu podataka o korišćenju AI i niza pretpostavki.
Ali i takva brojka dovoljno govori.
Ako mašina svake godine štedi radno vreme čija je procenjena vrednost 2,7 biliona dolara, pitanje više nije da li AI ima ekonomsku vrednost.
Ima je.
Pitanje je kome ta vrednost pripada.
***
I onda se vraćamo na onu rečenicu iz intervjua.
Ne možeš da zaustaviš linearnu algebru.
Weinstein je tu još neprijatniji nego što izgleda iz jedne izdvojene rečenice.
Njegova tvrdnja je da ljudi na samoj granici razvoja AI-ja smatraju da moraju da pobede u brutalnoj konkurenciji da bi uopšte imali mogućnost da utiču na ono što dolazi.
On kaže da je Samu jednom rekao: ako ne pobediš, tvoja moralnost ne znači mnogo. Dario, po Weinsteinovom prepričavanju, govori praktično isto. Moraju da pobede u trci do superinteligencije da bi njihove odluke uopšte nešto značile.
To je prilično užasna logika.
I baš zato je zanimljiva.
Weinstein kaže da je u jednom trenutku bio u razgovoru da se pridruži OpenAI-ju, a kada su ga pitali zašto nije došao, odgovorio je da misli da će biti prinuđen da bude nemilosrdan i da on ne želi da bude nemilosrdan. Njegova definicija je prilično obična: uzeti svaku prednost i igrati koliko god možeš.
Za Sama i Darija kasnije kaže da ih vidi kao generale koji moraju da donose strašne odluke.
To je Weinsteinov pogled na njih.
Može biti tačan.
Može biti pogrešan.
Ali njegova priča ovde više nije priča o dobrim i lošim ljudima.
To je priča o trci u kojoj čak i čovek koji misli da je na moralno ispravnoj strani mora da pobedi da bi imao pravo da utiče na ishod.
A negde u drugoj garaži neko drugi i dalje računa matrice na GPU-u.
***
Prethodni tekst se završio u radionici.
AI je tamo sređivao alat, memoriju i sopstveno radno okruženje.
Sada imamo još nešto.
Radionica počinje da pamti.
Sledeća smena dobija beleške prethodne.
Sledeća generacija dobija iskustvo prethodne.
Jedan agent popravi memoriju.
Drugi alat.
Treći kod.
Četvrti način testiranja.
Peti napravi bolje okruženje.
Šesti dobije iskustvo svih prethodnih.
A negde pored svega toga stoji gomila ljudskog rada koji je tokom poslednjih nekoliko decenija pretvoren u digitalni trag.
Knjige.
Kod.
Slike.
Forum.
Razgovori.
Video.
I sada mašina počinje da radi posao koji je iz tog traga naučila.
Možda će se kapitalizam promeniti.
Možda će nastati nešto što više neće imati mnogo smisla zvati ni kapitalizam ni komunizam. Weinstein upravo tako postavlja stvar: ako bi Adam Smith i Karl Marx danas sedeli za istim stolom, smatra da bi ih verovatnije zanimalo šta dolazi posle kapitalizma i komunizma nego ko je od njih dvojice pobedio.
Možda ćemo smisliti potpuno novi način raspodele.
Možda nećemo.
Za sada znamo samo da se radionica menja.
I da je vrlo teško zaustaviti čoveka koji je rešio da napravi bolju mašinu.
A još je teže zaustaviti matematiku.
Ne možeš da zaustaviš linearnu algebru.
