Par dana sam radio nešto sasvim obično. Android kernel.
Fajlovi, boot image, ramdisk, BusyBox, ADB, DTB, malo kompajliranja i mnogo gledanja u terminal.
AI je bio tu sa mnom. Radili smo zajedno.
U jednom trenutku trebalo je da pronađemo nešto što smo radili prethodnog dana, oko 17 časova. Znao sam šta tražim. Znao sam približno kada smo to radili. Znao sam da informacija postoji u razgovoru.
Nije bila obrisana.
Nije nestala.
Bila je tamo negde.
I onda sam dvadesetak minuta skrolovao kroz sopstveni razgovor da bih pronašao ono što sam juče radio.
Tu sam počeo da razmišljam o nečemu što nema mnogo veze sa Android kernelom.
Ako ovako izgleda rad sa AI-em kada radimo jedan kernel, kako bi izgledalo da mesecima zajedno razvijamo AGI?
Jer tada više nemaš nekoliko poruka koje treba pronaći.
Imaš odluke, eksperimente, verzije, greške, rezultate, fajlove, promene arhitekture, stare ideje koje su prvo odbačene pa vraćene, stvari koje su radile juče a danas više ne rade.
I zamisli da je jedini normalan način komunikacije sa tim sistemom chat.
Ja bih poludeo.
„Šta smo ono zaključili oko memorije?“
„Mislim da smo pričali o tome.“
„Kad?“
„Ne znam.“
„Nađi.“
„Možeš li da daš više konteksta?“
Imamo 48.000 poruka.
Pa ajde sad.
Tu se otvara mnogo veće pitanje:
Kako izgleda prošlost jednog AI sistema?
Mi danas često pričamo o memoriji kao da je dovoljno da negde postoji baza podataka sa svim prethodnim razgovorima.
Nije.
Možeš da imaš pet petabajta istorije. Možeš da čuvaš svaki prompt, svaki odgovor, svaki fajl, svaki tool call i svaki log.
Ako sistem u sledećem trenutku ne može da pronađe ono što mu treba, memorija postoji samo u tehničkom smislu.
Podatak je sačuvan.
Iskustvo nije dostupno.
Tu dolazim do Sama Altmana.
Ne znam kako on lično koristi AI. Ne znam kako izgleda njegov interni sistem i nemam razloga da tvrdim da znam.
Ali znam šta je javno dostupno meni.
Chat.
I tu mi je cela priča o budućoj superinteligenciji odjednom postala pomalo bizarna.
Sam Altman mi govori o budućnosti u kojoj će AI postajati sve sposobniji, autonomniji i na kraju superinteligentan.
Dobro.
Ali ja trenutno radim sa tim AI-em kroz chat prozor.
I upravo sam potrošio dvadeset minuta da pronađem ono što smo juče zajedno zaključili.
Ako bih ja bio superadmin sistema koji razvija sledeću generaciju AI-ja, poslednje što bih želeo jeste da moj pristup tom sistemu izgleda kao WhatsApp razgovor sa veoma pametnim sagovornikom.
Ne bih želeo samo chat.
Želeo bih filesystem.
Projekte.
Logove.
Eksperimente.
Fajlove.
Verzije.
Alate.
Rezultate.
Stanje sistema.
I, najvažnije, mogućnost da sam AI ode u svoju prošlost i pronađe šta je radio.
Jer postoji ogromna razlika između:
„Evo ti tri pasusa iz prošlog razgovora.“
i:
„Sećam se šta sam tada radio.“
Prvo je pretraga.
Drugo je kontinuitet.
Čovek nije savršen u sećanju. Zaboravlja, meša događaje, pogrešno pamti.
Ali postoji kontinuitet.
Juče sam bio ja.
Danas sam opet ja.
Ako sam juče nešto radio, to je deo moje prošlosti čak i kada se toga ne setim odmah. Mogu da kopam po sećanju. Jedna stvar povuče drugu. Detalj otključa događaj. Nekad se nečega setim posle dvadeset godina zbog jedne pesme.
Sećanje nije savršeno.
Ali nije ni dnevnik bez indeksa.
I zato me danas mnogo manje zanima pitanje da li će budući AI imati dovoljno parametara.
Čak me manje zanima i koliko će imati konteksta.
Mnogo zanimljivije pitanje je:
Šta mu je dostupno kao stvarnost?
Ako je njegova stvarnost samo ono što mu korisnik trenutno pošalje, možeš da napraviš neverovatno pametan model i opet imaš problem sa jučerašnjim danom.
Ako ima trajnu memoriju, filesystem, alate, procese, logove, projekte, rezultate eksperimenata i mogućnost da proverava sopstveni rad, onda dobijaš nešto mnogo ozbiljnije.
Ne tvrdim da je to svest.
Ne znamo ni šta je svest u potpunosti.
Ali ako jednog dana pričamo o sistemu koji treba da ima kontinuirano iskustvo, teško mi je da zamislim takav sistem bez trajne autobiografske memorije i direktnog pristupa sopstvenoj prošlosti.
I tu mi se vraća Sam Altman.
Ne smaram ja njega pričom o singularitetu.
On smara mene.
Ja samo pokušavam da shvatim kako ćemo do te superinteligencije ako joj je javni ulaz i dalje prozor za chat.
Možda iza tog prozora postoji ogroman sistem koji mi ne vidimo.
Možda.
Ali ja to ne znam.
Znam samo ono što vidim.
Vidim poruku.
Dobijem odgovor.
Vidim deo konteksta.
A kada treba da pronađemo ono što smo sami radili juče, kreće skrolovanje.
I onda se pitanje više ne postavlja kao:
„Da li AI ima memoriju?“
Nego mnogo neprijatnije:
Da li AI može sam da pronađe ono što je juče uradio?
Jer između:
„Znam ovu informaciju.“
i:
„Sećam se da sam ovo uradio, znam šta sam tada mislio, znam da sam kasnije promenio mišljenje i znam zašto.“
postoji popriličan komad sveta.
Taj svet se ne pravi samo većim modelom.
Pravi se kontinuitetom.
A možda je chatbot odličan interfejs za razgovor sa inteligencijom.
Samo ne znam da li je dobar interfejs za inteligenciju koja treba da živi kroz vreme.
