Ne znamo šta je inteligencija. Kako onda znamo šta je AGI?
Posle meseci rasprave o "geometriji inteligencije", rekao bih da nemamo pojma ni šta je inteligencija, a kamoli gde je granica između AGI i ASI.
Sve je počelo jednim naizgled jednostavnim pitanjem.
Postoji li neka univerzalna geometrija inteligencije, nezavisna od toga da li je nastala u ljudskom mozgu, silikumu ili nekom budućem supstratu?
Na prvi pogled zvuči razumno.
Ako dva potpuno različita sistema pokušavaju da razumeju isti univerzum, možda će ih isti zakoni fizike i matematike vremenom primorati da razviju slične unutrašnje modele. Nije važno da li rade pomoću neurona, tranzistora ili nečega što još nije izmišljeno. Svet je isti. Fizika je ista.
Onda počneš da kopaš. . .
Tražeći odgovor završili smo kod Solomonoffa, AIXI-ja, Fristona, Fisherove geometrije, Vereshchagina i Vitanyija, algoritamske statistike, teorije kategorija, procesnih teorija, operacionizma, pa čak i metodologije izgradnje matematičkih teorija.
Ispostavilo se da se ni tamo priča ne završava. . .
Menjaju se definicije, menjaju se matematički okviri, a sa njima se menja i ono što uopšte zovemo inteligencijom.
Usput smo sopstvenu početnu hipotezu srušili nekoliko puta, pa je ponovo sastavljali u drugačijem obliku. Shvatili smo da reprezentacija nije isto što i predikcija. Da predikcija nije isto što i ponašanje. Da ponašanje nije isto što i inteligencija. Da možda geometrija uopšte nije pravi matematički objekat. Da možda ni inteligencija nije pravi matematički objekat.
Na kraju smo došli do toga da možda još ne znamo ni koje je pravo pitanje.
Drugim rečima, posle cele priče nisam postao sigurniji šta je AGI.
Naprotiv. . .
Postao sam mnogo sigurniji koliko zapravo ne znamo.
Zato me danas mnogo manje zanima kada će stići AGI, superinteligencija ili singularitet. . .
Mnogo više me zbunjuje kako ljudi mogu tako samouvereno da pričaju o nečemu za šta još ne znamo ni šta je.
I vrlo brzo shvatiš da niko ne priča o istoj stvari.
Naletiš na ljude koji su o tome razmišljali mnogo pre nas. Jedni traže idealan način učenja. Drugi tvrde da svaki sistem koji opstaje stalno pokušava da smanji sopstveno iznenađenje. Treći pokušavaju da opišu najbolji mogući prediktor.
Pomisliš: dobro, svi gledaju u istom pravcu.
A onda dođe prvi šamar. . .
Postoje matematički rezultati koji kažu da ne postoji univerzalno najbolji način učenja ako unapred ne znaš nešto o svetu. Ne postoji jedan ključ koji otvara sve brave.
Dobro. Nije kraj sveta.
Onda dođe drugi šamar. . .
Ispostavi se da isti skup podataka može imati više potpuno različitih optimalnih objašnjenja. Dve potpuno različite unutrašnje slike sveta mogu biti podjednako dobre. Kao dve mape istog grada koje su obe tačne, ali jedna pokazuje ulice, a druga samo visinu zgrada, i nema jednostavnog načina da jednu pretvoriš u drugu.
Tu mi se prvi put upalila lampica. . .
Možda uopšte nije tačno da će svi inteligentni sistemi završiti sa istom unutrašnjom strukturom. Možda će spolja izgledati isto, a iznutra biti potpuno različiti.
To menja celu priču. . .
Ako je tako, možda nije važna reprezentacija. Možda je važna predikcija. Ako dva sistema daju ista predviđanja, možda uopšte nije bitno kako razmišljaju.
Opet je zvučalo obećavajuće.
Trajalo je možda jedan dan. . .
Jer inteligencija nije samo gledanje sveta. Inteligencija odlučuje. Bira. Deluje. Odjednom više nije bilo dovoljno pričati samo o modelima i predikciji. Morao sam da uvedem i akcije. Politike. Odluke.
Svaki odgovor je pravio još veću mapu pitanja.
U jednom trenutku primetio sam da više ne trošim vreme pokušavajući da odgovorim na pitanje šta je inteligencija.
Trošio sam ga pokušavajući da pronađem razgovor u kome smo do tog pitanja došli.
Zvuči banalno.
Ali nije. . .
Posle nekoliko meseci više nisam imao problem sa teorijom.
Tada sam shvatio da matematika više nije najveća prepreka. Najveća prepreka postao je prozor kroz koji sam razgovarao sa AI-em.
Imao sam problem sa navigacijom kroz sopstvene ideje.
Kada bih se setio da smo pre dva meseca došli do važnog zaključka, znao sam da postoji. Sećao sam se zašto je važan. Ali nisam mogao da ga pronađem.
Bio je zakopan između stotina sasvim običnih pitanja i odgovora. . .
Nisam zaboravio zaključak.
Zaboravio sam put kojim smo do njega stigli.
A upravo je taj put bio najvredniji deo istraživanja.
Tada sam prvi put pomislio da možda problem nije u meni. . .
Možda je problem u tome što pokušavamo da istražujemo kroz interfejs napravljen za dopisivanje.
Svi AI četovi danas izgledaju kao WhatsApp. Današnji AI pamti sekvencu. A čovek pamti prelomne tačke.
To je cela kritika linearnog razgovora kao interfejsa za istraživanje. . .
Danas AI razgovor uglavnom izgleda ovako:
Čovek
│
├── Pitanje 1
├── Odgovor
├── Pitanje 2
├── Odgovor
│
⋮
│
├── Pitanje 584
└── Odgovor
Linearni razgovor.
AI pamti redosled poruka.
A istraživanje skoro nikad nije linearno. . .
Čovek ne pamti tako.
Kada se posle godinu dana setim neke rasprave, ne sećam se redosleda rečenica. Sećam se prelomnih tačaka. Sećam se trenutka kada je neka ideja propala. Sećam se trenutka kada se pojavila nova. Sećam se trenutka kada su se spojile dve potpuno različite teme.
Čovek pamti ovako:
Ideja
│
├── Hipoteza
├── Greška
├── Nova ideja
└── Zaključak
Čovek ne pamti poruke.
Pamti odnose između ideja.
A istraživanje izgleda još drugačije.
Hipoteza
│
▼
Ne radi
│
▼
Nova hipoteza
│
▼
Slepa ulica
│
▼
Nova hipoteza
│
├──────────────┐
▼ │
Spoj dve teme ◄─────┘
│
▼
Nova teorija
To nije istorija razgovora.
To je istorija razmišljanja.
Poslednjih godina pokušavam da razumem šta je inteligencija. To nije jedan razgovor. To je trideset različitih razgovora. Prvo krenemo od jedne ideje. Onda završimo kod druge. Posle dva dana neko pomene treću. Sutradan četvrtu. Treći dan shvatimo da reprezentacija nije isto što i predikcija. Posle nedelju dana cela početna hipoteza padne u vodu.
Ali gde se to vidi u današnjem interfejsu?
Nigde.
Sve ostane zatrpano.
A meni u stvari ne treba istorija razgovora.
Treba mi mapa razgovora.
Nešto što izgleda ovako:
Inteligencija
│
├── Snovi
├── Predikcija
├── Modeli
│ │
│ └── Algoritamska statistika
│ │
│ └── Reprezentacija ≠ Predikcija
│ │
│ └── Čovek + AI
Ovde više nije chat.
Ovde je mreža.
Kliknem na jedan čvor i dobijem samo onaj deo koji se odnosi na njega. Kliknem na drugi i otvori se potpuno druga grana. Posle nekoliko meseci rada ne bih imao deset hiljada poruka.
Imao bih mapu sopstvenog razmišljanja.
To nije ni obična mind mapa.
Više liči na Git za razmišljanje, gde je podjednako važno kako je neka ideja nastala, gde se razgranala i zašto je neka grana odbačena.
Tekst više ne bi nastajao iz niza poruka.
Nego iz mreže.
Zamisli da više ne biraš poruke iz kojih će nastati tekst.
Biraš ideje.
Hipoteze
Oborene ideje
Otvorena pitanja
Zaključci
│
▼
ČLANAK
Označiš grane koje želiš da uključiš, a AI sam napiše članak koristeći samo njih. Sledeći put uključiš još jednu granu i isti tekst dobije potpuno novu dimenziju.
Tekst nije niz poruka.
Tekst je pogled na mrežu.
Ironično je što nisam naleteo na ograničenje matematike.
Niti na ograničenje modela.
Naleteo sam na ograničenje prozora u kome razgovaram sa njima.
Tada sam shvatio da problem više nije samo AI.
Problem je alat kroz koji pokušavam da mislim zajedno sa njim.
Chat nije samo AI.
Chat je editor za misli.
A editor nije naročito dobar za višemesečno istraživanje.
Jer istraživanje nije niz poruka, tekst na blogu ili komentar. Istraživanje je promena stanja uma. . .
Kada danas ljudi pričaju o AI modelima, uglavnom ih porede kao da su automobili. Ovaj je malo bolji. Ovaj je malo brži. Ovaj ima više parametara. Kao da je dovoljno izabrati najbolji model i posao je završen.
Moje iskustvo je potpuno drugačije.
Ono što danas pravi razliku nije model sam po sebi.
Pravu razliku pravi odnos između čoveka i modela. . .
Što je pitanje bolje postavljeno, što postoji više konteksta, više zajedničke istorije i više personalizacije, rezultat postaje sve bolji.
Ali to nije zasluga samo AI-ja.
Kada isti zadatak pošaljem modelu bez istorije razgovora, bez prethodnih rasprava i bez načina na koji smo zajedno gradili ideje, dobijem sasvim prosečan odgovor.
Odjednom postane očigledno da vrednost nije samo u modelu.
Vrednost je u zajedničkoj istoriji. . .
U hiljadama prethodnih razgovora.
U tome što model već zna koje analogije volim, kako razmišljam, koje argumente smatram ubedljivim, kada tražim matematičku preciznost, a kada želim tekst koji će razumeti neko ko nikada nije čuo za algoritamsku statistiku.
Drugim rečima, proizvod više nije samo AI.
Proizvod je čovek i njegov AI.
Taj spoj danas rešava probleme bolje nego što bih ih rešavao sam.
Ali isto tako rešava ih mnogo bolje nego što bi ih rešavao isti model bez tog zajedničkog iskustva.
Mislim da je to važna promena načina razmišljanja.
Godinama smo slušali pitanje:
"Da li će AI zameniti čoveka?"
Možda je pogrešno postavljeno.
Mnogo zanimljivije pitanje je:
Šta može da uradi čovek koji godinama razvija način rada sa svojim AI-em?
Mislim da će buduća konkurencija sve manje ličiti na čoveka protiv veštačke inteligencije.
Mnogo je verovatnije da će izgledati ovako:
čovek + njegov AI
protiv
drugog čoveka + njegovog AI-ja.
Neće pobeđivati onaj ko ima najveći model.
Nego onaj ko je izgradio najbolji način zajedničkog razmišljanja.
To je isto kao da kažeš da je Photoshop fantastičan renderer, ali ima loš interfejs za crtanje. Ili da je Linux odličan kernel, ali shell nije najbolji način da radiš određene stvari. Odjednom svaki tehničar razume o čemu pričam.
Pogledaj razliku u jednoj slici.
DANAS
Poruka
│
Poruka
│
Poruka
│
Poruka
SUTRA
Hipoteza
│
├── Oborena
├── Nova hipoteza
├── Otvoreno pitanje
└── Zaključak
Zamisli da je Word ostao jedini način programiranja.
Ili da je Excel jedini način modelovanja baze podataka.
Verovatno nikada ne bismo napravili IDE, Git ili Visual Studio Code.
Mislim da smo danas upravo u toj fazi razvoja AI-ja.
Imamo neverovatno moćne modele. . .
Ali ih koristimo kroz interfejs koji je napravljen za dopisivanje.
Možda ćemo jednog dana odgovoriti na pitanje šta je inteligencija.
Ali danas mislim da imamo jedan mnogo prizemniji problem.
Pokušavamo da istražujemo najkompleksniju pojavu u univerzumu kroz interfejs napravljen za razmenu kratkih poruka.
Danas se svi pitaju kada će AI početi da razmišlja kao čovek.
Ja sam tokom ovog istraživanja počeo da se pitam nešto sasvim drugo.
Da li smo uopšte napravili interfejs kroz koji čovek i AI mogu da razmišljaju zajedno?
Mislim da nismo. . .
I možda će upravo to biti sledeća velika revolucija.
