Singularnost možda nije ono što mislimo da jeste
Naslov je bio dovoljno bombastičan da kliknem. . .
Sam Altman tvrdi da je singularnost već stigla.
Prva reakcija?
Ajde, ne loži me. Opet marketing. . .
To mi je, iskreno, prvo prošlo kroz glavu.
Ali onda sam pročitao šta je zapravo rekao. . .
Nije rekao da je nastao Skynet.
Nije rekao da je AI postao svestan. . .
Nije rekao ni da su ljudi izgubili kontrolu.
Praktično kaže da je počeo proces u kome AI već učestvuje u pravljenju sledeće generacije AI sistema. Ne više kao alat kome čovek diktira šta da radi, nego kao član istraživačkog tima. Po njemu, to je trenutak kada je voz krenuo. Posle toga nema baš nekog elegantnog načina da ga vratiš u stanicu. . .
Tu sam već stao.
Reko’, čekaj, matori… nije baš sve tako na keca. . .
Možda je problem u tome što većina nas zamišlja singularnost kao jedan datum.
Kao 16. juli u 11:37.
Pre toga normalan svet. . .
Posle toga roboti.
Valjda zato što tako funkcionišu SF filmovi. Imaš scenu pre i scenu posle. . .
A možda stvarnost neće imati tu ljubaznost.
Možda će biti mnogo dosadnija.
Jednog dana AI napiše deo naučnog rada.
Sledeće godine projektuje čip. . .
Posle toga pronađe novi algoritam.
Onda pomogne da nastane model koji je još bolji.
Nema eksplozije.
Nema sirena. . .
Nema dramatične muzike u pozadini.
Samo jednog dana shvatimo da ljudi više nisu jedini koji guraju razvoj napred.
To je, čini mi se, ono što Altman pokušava da kaže.
Ali neće baš da može. . .
Mislim da još nismo u pravoj singularnosti.
Tebra, jesmo u AI revoluciji. Tu nema mnogo filozofije.
To je prilično očigledno.
Ali i dalje čovek bira podatke. . .
Neko i dalje mora da pritisne dugme. Da uključi GPU. Nije to još samoterka.
Čovek odlučuje šta će model da radi. . .
Još nema zatvorene petlje u kojoj AI potpuno sam razvija sledeći AI.
To je baš ozbiljna razlika. Nije zez. . .
A onda sam uhvatio sebe kako vrtim celu priču u sasvim drugom smeru.
Možda čekamo pogrešnu zatvorenu petlju. . .
Stalno zamišljamo AI koji sam razvija sledeći AI.
A možda smo mi deo te petlje.
Svaki put kada otvorimo GPT.
Kada zamolimo Copilot da dovrši funkciju.
Kada pitamo Claude da objasni neki problem.
Kada ispravimo odgovor.
Kada kliknemo palac gore ili dole. . .
Kada pošaljemo fotografiju.
Kada razgovaramo sa glasovnim asistentom.
Pa čak i kada neko pročita ovaj tekst. . .
Sve to ostavlja trag.
Čak i skrol.
Čak i ako preskočiš ovaj tekst. . .
Modeli ne uče direktno iz svake naše poruke. Mnogi podaci se nikada ne koriste za treniranje. Ali gotovo svaka interakcija služi da se nešto izmeri, uporedi, testira ili poboljša. Neka laboratorija će na osnovu miliona takvih interakcija napraviti sledeći model.
Ispada da razvoj ne guraju samo istraživači. . .
Guramo ga i mi.
Lagano.
Na kvarnjaka. . .
A da toga uglavnom nismo ni svesni.
Pomalo.
Svakog dana.
Neprimetno. . .
Svako pitanje koje postavimo.
Svaki odgovor koji ocenimo.
Svaka greška koju prijavimo.
Svaki razgovor koji vodimo. . .
Sve to postaje sirovina za sledeći korak.
Kap po kap.
Bez neke velike frke. . .
Nije spektakularno, ali tako obično izgledaju stvari koje kasnije promene svet.
Možda singularnost neće doći zato što je neka laboratorija napravila čudesan model. . .
Možda će doći zato što smo svi, sasvim usput, godinama učestvovali u njenom nastajanju.
Međutim, postoji nešto drugo što mi je mnogo zanimljivije od pitanja da li je Altman u pravu.
Ko zapravo ima najveću prednost ako ovakav razvoj stvarno potraje narednih deset godina?
Većina će odmah reći OpenAI.
Neko će pomenuti Google.
Neko Microsoft.
Ja baš i ne bih.
Tu mi se kockice baš i ne slažu.
Mene najviše zanima Zuckerberg.
Ne zato što mislim da Meta danas ima najbolji model.
To je prolazna stvar. . .
Model može da se sustigne. To je deo koji jednostavno šljaka drugačije.
Ali ono što Meta ima, teško da iko drugi ima u toj meri.
Zuckerberg, čini mi se, ne pokušava da napravi samo najbolji AI.
On pokušava da napravi digitalnog čoveka. . .
Ako pogledaš šta Meta danas poseduje:
Facebook.
Instagram.
WhatsApp.
Messenger.
Threads.
Quest.
Ray-Ban naočare. . .
Llama.
Sopstveni AI studio.
Ogromnu reklamnu mrežu.
Na papiru deluje kao gomila nepovezanih proizvoda.
Meni više liči na delove jednog sistema.
Ne društvene mreže. . .
Nego pokušaj da se napravi digitalni sloj preko stvarnog sveta.
I tu mislim da većina ljudi gleda u pogrešnom pravcu.
Svi gledaju modele.
Ja gledam naočare. Da.
Zvuči glupo. . .
K’o da pričamo o dioptriji, a ne o budućnosti AI.
Ali baš tu mi deluje da leži cela caka. . .
Ono što je pre dve godine delovalo kao skupa igračkica, danas već može da se kupi za nekoliko soma dinara. AI naočare sa kamerom, mikrofonom, zvučnicima i osnovnim AI funkcijama više nisu pitanje naučne fantastike. Pitanje je samo koliko su dobre.
Ali mislim da pravi prelomni trenutak neće biti kada dobiju još bolju kameru ili još jači procesor. . .
Biće kada postanu medicinsko pomagalo.
To zvuči mnogo manje spektakularno nego „veštačka superinteligencija“, ali meni deluje da je mnogo važnije.
Danas naočare nosimo zato što ne vidimo dovoljno dobro. . .
Sutra ćemo ih možda nositi zato što preko njih vidimo bolje nego što ljudsko oko uopšte može.
Automatsko prilagođavanje dioptrije.
Pojačavanje kontrasta.
Noćni režim. . .
Prepoznavanje lica.
Prevod natpisa u realnom vremenu.
Informacije o svetu koji gledamo.
I sve to bez vađenja telefona iz džepa. . .
Ljudi ih neće kupovati zbog veštačke inteligencije.
Kupovaće ih zato što preko njih vide bolje nego što ljudsko oko samo može. . .
AI će doći u paketu.
Hteo ti to ili ne. . .
Kao što danas uz telefon dobiješ kameru, GPS, banku, lampu, ličnu kartu i pola života.
E tu kreće lom. . .
I posle će neko da kaže da su to samo naočare.
Isto važi i za sluh. . .
Slušni aparati već danas rade mnogo više od prostog pojačavanja zvuka.
Ako nikad nisi probao moderan model, lako je pomisliti da je to samo glasniji zvuk.
Nije. . .
Sledeći korak nije samo bolji mikrofon.
Sledeći korak je da AI razume šta želimo da čujemo, a šta želimo da utišamo. . .
Nema više samo pojačavanja.
AI će odraditi selekciju umesto nas. . .
Dete plače.
Njega čuješ.
Bušilica kod komšije?
Ode u drugi plan.
Na kraju možda neće pomagati samo vidu i sluhu.
Možda će postati produžetak svih naših čula. . .
Onog trenutka kada AI prestane da bude aplikacija i postane pomagalo za osnovna ljudska čula, pitanje da li ćemo ga koristiti više neće ni postojati.
Koristićemo ga iz istog razloga zbog kog danas nosimo naočare.
Zato što nam olakšava život. . .
A onda shvatiš zašto su Meti toliko važni podaci.
Petnaestak godina prikupljanja podataka o ponašanju milijardi ljudi.
Ne samo šta pišemo.
Nego šta gledamo.
Šta preskačemo.
Koliko sekundi ostanemo na nekoj slici.
Sa kim pričamo.
Koliko često.
U koje vreme. . .
Šta brišemo pre nego što pošaljemo.
Šta lajkujemo javno. . .
A šta samo otvorimo, pogledamo i zatvorimo.
To nije baza korisnika.
To je mapa ljudskog ponašanja. . .
I to prilično detaljna.
Priča se o tome ko će napraviti najpametniji model.
Ja nisam siguran da je to najvažnije.
Možda je mnogo važnije pitanje ko će prvi napraviti najbolji model ljudi.
Jer superinteligencija koja ne razume čoveka nije naročito korisna.
Ali dovoljno dobar model čoveka može da predvidi ponašanje miliona ljudi i bez ikakve „svesti“.
Kad malo bolje razmisliš… to već pomalo liči na ludilo.
Ne zato što je AI postao svestan.
Nego zato što možda uopšte ne mora. . .
Zato me, iskreno, manje plaši Altman kada priča o singularnosti.
On priča o tehnologiji.
Više me zanima šta će se desiti kada se takva tehnologija spoji sa kompanijom koja već petnaestak godina skuplja možda najveću bazu podataka o ljudskom ponašanju u istoriji.
Paradoksalno, najveća prednost Mete možda nije ni AI. . .
Njihova najveća prednost je petlja povratne sprege.
AI nešto predloži.
Milijarda ljudi reaguje. . .
AI iz toga nešto nauči.
Sledeći predlog je bolji.
I tako milijardama puta dnevno.
Pomalo jezivo kad ovako napišeš. . .
Pametni telefon nije pobedio zato što je imao internet.
Pobedio je zato što je zamenio deset uređaja jednim.
Mislim da će se isto dogoditi i sa AI.
Neće pobediti zato što će biti pametniji.
Pobediće kada prestanemo da ga doživljavamo kao poseban uređaj.
Kada postane deo naših naočara.
Deo naših ušiju.
Deo načina na koji vidimo i čujemo svet.
Možda prava priča uopšte nije pitanje kada će AI postati pametniji od čoveka.
Možda je mnogo važnije pitanje:
Šta se događa onog trenutka kada AI počne da razume ljude bolje nego što ljudi razumeju sami sebe?
I možda još jedno.
Kako smo uopšte stigli dovde?
Ne tako što nas je neko pobedio.
Nego tako što smo, iz dana u dan, kroz milijarde sasvim običnih razgovora, svi pomalo učestvovali u njegovom nastajanju.
Možda upravo sada. . .
Dok čitaš ovaj tekst. Možda si upravo ostavio još jedan mali trag.