Dok mi raspravljamo o ChatGPT-u, drugi već razmišljaju o AI infrastrukturi. . .
Kad se kod nas povede priča o veštačkoj inteligenciji, rasprava gotovo uvek završi na istom mestu.
„Koji model koristiš?“
„Je l’ bolji ChatGPT ili Claude?“
„Probaj Codex.“
I to je otprilike plafon.
To nije pogrešno. . .
Samo je veoma uzak deo cele priče.
Mislim da smo svi pomalo površni kada pričamo o AI. Ja prvi.
Raspravljamo o chatbotovima, a iza njih nastaje potpuno nova infrastruktura o kojoj gotovo da i ne govorimo.
To je isto kao da je krajem devedesetih glavna rasprava o Internetu bila da li je bolji Netscape ili Internet Explorer.
Browser je bio samo prozor.
Internet je bio infrastruktura.
Mislim da se danas ista stvar dešava sa AI.
Većina ljudi vidi ChatGPT.
Mali broj ljudi razmišlja o hardveru, memoriji, podacima, računarskim klasterima, optičkim mrežama ili lokalnim modelima koji se izvršavaju direktno na računaru. . .
Paradoksalno, jedan od zanimljivijih razgovora o tome nisam čuo od AI istraživača ili inženjera, već od muzičkog producenta Rika Beata.
Možda baš zato što je njegova industrija ovu priču već jednom prošla. Video je kako su računari, sve snažniji hardver i softver za obradu zvuka promenili način na koji nastaje muzika. Ono za šta je nekada bio potreban veliki studio, danas često staje u jednu radnu sobu. Kada jednom doživiš takvu promenu, lakše prepoznaš isti obrazac u nekoj drugoj oblasti.
Zato ni ne govori mnogo o promptovima niti poredi ChatGPT i Claude. Njega zanimaju SSD diskovi, RAM memorija, lokalni LLM modeli i računari koji će uskoro moći da pokreću ozbiljan AI direktno na desktopu kod kuće, bez interneta i bez cloud servisa.
Njegova osnovna teza je da će lokalni modeli postajati sve važniji.
Mislim da je u tome uglavnom u pravu. . .
Za prevođenje, programiranje, analizu dokumenata, pretragu sopstvene arhive ili obradu fotografija mnogim ljudima neće biti potreban cloud.
Računar će veliki deo posla obavljati lokalno.
Ali ne slažem se sa njegovim zaključkom da će zbog toga veliki data centri postati manje važni.
Naprotiv.
Mislim da će lokalni AI i cloud rasti zajedno.
Desktop računari će preuzimati sve više svakodnevnih zadataka, dok će treniranje najvećih modela, generisanje videa, multimodalni sistemi, naučna istraživanja i globalni servisi i dalje zahtevati ogromne računarske klastere.
Jedno neće zameniti drugo.
Rašće istovremeno.
Ali tu mi pada na pamet još jedna mogućnost o kojoj Beato uopšte ne govori.
Možda lokalni modeli jednog dana neće raditi kao usamljeni računari, niti će za svaki ozbiljniji zadatak odmah odlaziti u veliki cloud. . .
Možda će svaki računar imati svoj LLM koji će većinu poslova rešavati lokalno. Tek kada naiđe na problem koji ne može da reši, drugim lokalnim modelima poslaće samo apstraktan upit ili međurezultat, bez kompletnog sadržaja i bez otkrivanja svih podataka.
Njih deset odgovori.
Uporede rezultate.
Formira se neka vrsta konsenzusa.
To više liči na Internet nego na današnji cloud.
Ne jedan supermozak. . .
Nego milioni ili milijarde manjih mozgova koji povremeno sarađuju.
Nešto poput P2P mreže, samo što umesto fajlova razmenjuju rezultate zaključivanja ili delove rešavanja problema.
Možda nikada neće izgledati baš ovako.
Ali ne bih se iznenadio da upravo u tom smeru evoluira deo AI infrastrukture.
Ne zato što je to najjednostavnije rešenje, već zato što istovremeno rešava nekoliko velikih problema.
Privatnost.
Cenu.
Latenciju.
Otpornost na prekide.
Na neki način, to bi predstavljalo povratak filozofiji na kojoj je nastao i sam Internet.
Decentralizovan, distribuiran i bez jednog mesta koje odlučuje o svemu.
Ono što mi je, međutim, zanimljivije od same rasprave jeste razlika u načinu razmišljanja.
Kod nas se često razgovara o tome koji chatbot daje bolje odgovore.
Da li je ChatGPT bolji od Claudea.
Da li Gemini bolje programira.
A prava pitanja možda uopšte nisu tamo. . .
Beato razmišlja o memoriji, skladištu podataka, hardveru i ekonomiji infrastrukture.
Ja se pitam kako će ta infrastruktura izgledati za deset godina.
To je razlika između razgovora o aplikaciji i razgovora o tehnologiji koja stoji iza nje. . .
Imam utisak da se i kod nas rasprava o AI često zadržava na površini.
Najviše pričamo o aplikacijama koje koristimo, a mnogo manje o infrastrukturi koja ih omogućava.
Većina tehnoloških revolucija u početku izgleda kao nova aplikacija.
Tek mnogo kasnije postane jasno da je prava promena bila u infrastrukturi. . .
A upravo se tamo danas odvijaju najveće promene.
U fabrikama čipova.
U data centrima.
U elektranama koje će napajati nove generacije AI računarskih klastera.
U optičkim mrežama koje povezuju kontinente.
U memorijskim sistemima, skladištima podataka i računarskim klasterima koji će u narednim godinama određivati kako će se znanje obrađivati, čuvati i koristiti.
ChatGPT je samo ono što vidimo.
Kao što je browser nekada bio samo prozor ka Internetu.
Prava revolucija nikada nije bila u prozoru. Uvek je bila u onome što stoji iza njega. . .