Meni su potpuno komične priče koje trenutno kruže o veštačkoj inteligenciji. Ne zato što mislim da je razvoj AI nevažan. Naprotiv. Upravo zato što je priča postala toliko ozbiljna, neke stvari počinju da zvuče kao vic. Troše se stotine miliona i milijarde dolara. Grade se data centri veličine industrijskih postrojenja. Priča se o stotinama hiljada GPU-ova, gigavatima struje, novim elektranama, novim mrežama, novim čipovima i infrastrukturi kakvu do juče nismo ni zamišljali. Priča se o AGI. Priča se o superinteligenciji. Priča se o singularitetu. I onda toj stvari kao primarni interfejs damo chatbox. Tu meni nešto fundamentalno nije jasno. Zamisli da napraviš sistem koji je sposoban da rešava probleme kvalitativno bolje od čoveka, a onda mu kažeš: „Izvoli. Evo ti prozor za ćaskanje. Imaš toliko tokena. Ako hoćeš još, kupi jači paket.“ To je otprilike kao da napraviš najsofisticiraniji računar u istoriji civilizacije, pa mu na prednju stranu zalepiš Nokia 3310 tastaturu.
Chatbox je dobar korisnički interfejs za razgovor sa čovekom. Nije nužno interfejs inteligencije. To su dve različite stvari. Današnji ChatGPT, koliko god bio moćan, i dalje je napravljen oko ljudskog načina komunikacije. Ja napišem pitanje. Sistem pročita pitanje. Sistem proizvede odgovor. Ja pročitam odgovor. Onda napišem sledeće pitanje. To je razgovor. Veoma napredan razgovor, ali ipak razgovor. Tokeni su još zanimljiviji. Token nije prirodna jedinica inteligencije. Token je jedinica naše komunikacije sa modelom. Mi smo uzeli sistem koji obrađuje informacije na način koji nije ljudski i odlučili da mu razgovor merimo kao da šaljemo SMS. „Imate još 14.238 tokena.“ Dobro. A šta ako sistem rešava problem koji zahteva nekoliko dana računanja? Šta ako mu za rešavanje problema treba da pokrene deset hiljada simulacija? Šta ako treba da napiše program, testira ga, pronađe grešku, ponovo ga pokrene, promeni algoritam, sačeka rezultat eksperimenta i onda nastavi? Šta tačno znači „broj tokena“ u tom procesu? Ništa naročito. Token je ograničenje interfejsa. Nije granica inteligencije. Singularitet se često opisuje kao trenutak kada sistem postane kvalitativno sposobniji od čoveka. Dobro. I onda šta? Sednemo ispred Chrome-a. Ukucamo: „Ćao. Možeš li da smisliš bolji način proizvodnje energije?“ Model razmisli. Napiše nešto. Mi kažemo: „Super.“ Model: „Želite li da nastavim?“ Mi: „Da.“ Model: „Dostigli ste ograničenje za ovaj razgovor. Pokušajte ponovo kasnije.“ I onda sedimo ispred ekrana i čekamo da se civilizacija ponovo učita. Ili još bolje. Radimo na nekom problemu dva sata. Model kaže: „Ovaj razgovor je dostigao ograničenje dužine. Možete započeti novi razgovor da biste nastavili.“ Dobro. Singularitet, samo trenutak. Da otvorim novi tab. A tek generisanje slike. Zamisli superinteligenciju koja je sposobna da rešava probleme koje čovek ne ume ni da formuliše. Čovek joj da zadatak. Superinteligencija krene da radi. I onda: „Ne mogu da završim generisanje slike jer je dostignut limit.“ Ti sediš i gledaš u ekran ko kreten. Hahaha. Naravno, ovo je karikatura. Ali baš zato pokazuje problem. Ako je sistem zaista inteligencija koja može da rešava probleme, zašto bi rezultat morao da bude tekst? Zašto slika? Zašto uopšte odgovor? Možda rezultat treba da bude program. Možda fajl. Možda CAD model. Možda simulacija. Možda baza podataka. Možda novi algoritam. Možda konfiguracija računara. Možda pokrenut eksperiment. Možda rezultat merenja. Možda dizajn čipa. Možda nešto petnaesto što čovek nije ni očekivao. Chatbox je u tom slučaju samo konzola za čoveka. A konzola nije inteligencija. To je terminal kroz koji čovek pokušava da razgovara sa njom.
Meni je zato mnogo zanimljivije pitanje šta se dešava sa računarom kada inteligencija više nije aplikacija koja radi na računaru, nego postane osnovni sloj računarskog sistema. Jer ako je AGI stvarno AGI, očekuješ da se promeni mnogo više od kvaliteta odgovora. Očekuješ memoriju. Ne samo istoriju razgovora, nego trajno stanje. Očekuješ permanentne procese. Da sistem može nešto da radi i kada ga trenutno ništa ne pitaš. Očekuješ pristup alatima. Računarima. Mrežama. Bazama podataka. Simulatorima. Laboratorijskim sistemima. Softveru. Očekuješ mogućnost da napiše program, pokrene ga, vidi rezultat i promeni ga. Očekuješ sposobnost da prati dugoročni cilj. Da planira. Da proverava sopstvene rezultate. Da uči iz povratne sprege. Da pokrene eksperiment i sačeka rezultat. Da nastavi tamo gde je stao. I možda najvažnije od svega, očekuješ da ne moraš stalno da sediš pored njega i pritiskaš Enter. To je meni jedna od najčudnijih stvari u današnjoj predstavi AI. Model je uglavnom „živ“ kada ga pitaš nešto. Čovek pošalje poruku. Model radi. Model odgovori. I onda čeka. Čeka sledeću poruku. Najpametniji sistem koji smo napravili sedi u virtuelnoj čekaonici. „Sačekajte, korisnik trenutno nije aktivan.“ To je prilično bizarna slika superinteligencije. Zato mi je možda pogrešno pitanje: „Kako će izgledati superinteligentni chatbot?“ Mnogo zanimljivije je: „Kako izgleda računar kada inteligencija više nije aplikacija na računaru?“ Jer tada se menja sama arhitektura sistema. Danas imamo računar, operativni sistem, aplikacije i čoveka koji njima upravlja. U budućnosti možda imamo inteligenciju kao sloj koji povezuje sve ostalo. Ona ne čeka da otvorimo aplikaciju. Ona zna koje aplikacije postoje. Zna koje podatke ima. Može da napravi novu aplikaciju ako joj treba. Može da koristi računar. Može da pokrene procese. Može da meri rezultate. Može da menja sopstveni radni tok. Može da ostavi proces da radi preko noći. Može da se vrati ujutru tamo gde je stala. U tom svetu chatbox postaje ono što je danas terminal. Koristan je. Ponekad neophodan. Ali nije suština sistema. I možda je baš zato cela današnja priča o singularitetu pomalo smešna. Mi pričamo o mogućnosti da napravimo inteligenciju koja bi mogla da nadmaši čoveka, a još uvek je zamišljamo kao korisnički nalog. Ima memoriju do neke granice. Ima kontekstni prozor. Ima API limit. Ima dnevni limit. Ima paket od 20 dolara. Ima paket od 200 dolara. Ako previše pitaš, sačekaj do sutra.
Možda će jednog dana zaista nastati sistem koji zaslužuje da ga zovemo AGI. A možda će prvi znak da se to dogodilo biti upravo trenutak kada više neće izgledati kao aplikacija. Nećeš otvoriti browser da ga pitaš šta da radiš. Biće deo računarskog sistema. I nećeš mu reći: „Možeš li da mi rešiš ovaj problem?“ Reći ćeš mu šta želiš da postigneš. A onda će on raditi. Sat vremena. Dan. Nedelju. Možda mesec. Pokretaće programe, praviti modele, simulirati, meriti, menjati pristup, praviti nove alate i vraćati se na problem dok ne dobije rezultat. Ti nećeš sedeti ispred ekrana i čekati sledeći odgovor. Upravo suprotno. Računar će raditi dok ti spavaš. I tu mi postaje mnogo zanimljivije. Jer možda pravi problem sa današnjom pričom o AI nije to što još nemamo dovoljno pametan model. Možda je problem što još uvek pokušavamo da zamislimo inteligenciju kroz interfejs koji smo napravili za čoveka. Napravili smo nešto što bi, navodno, jednog dana moglo da bude pametnije od nas. I dali mu chatbox. Superinteligencija ne pita koliko još ima tokena. Ne završava razgovor zato što je dostignuta maksimalna dužina konteksta. Ne kaže: „Mogu da nastavim sutra.“ Ona jednostavno postoji. Ona ne radi u sesiji. Ona jeste sistem. Stalno radi. Stalno prati šta se dešava. Stalno obrađuje informacije. Stalno ima neku unutrašnju aktivnost, čak i kada je niko ništa ne pita. A mi danas pravimo navodno sve inteligentnije sisteme i zamišljamo ih kao prozor u browseru koji čeka da korisnik nešto ukuca.
