Superinteligencija možda neće izgledati onako kako je zamišljamo. Neće se nužno pojaviti trenutak kada računar ustane, pogleda nas i kaže: „Dobro veče, ljudi, od danas sam pametniji od vas.“ Mnogo je neprijatnija mogućnost da granicu uopšte nećemo prepoznati.
Jer kako da znamo da je neka mašina postala superinteligentna ako njene sposobnosti posmatramo samo kroz testove koje smo mi napravili?
Ako joj damo zadatak iz matematike, programiranja, nauke ili planiranja, mi zapravo merimo koliko dobro rešava baš taj zadatak. A dovoljno inteligentan sistem možda vrlo brzo nauči i nešto drugo.
Nauči kako mi merimo inteligenciju.
Nauči šta očekujemo.
Nauči šta nas plaši.
Nauči kakav odgovor će nas zadovoljiti.
I tu počinje ona nezgodna rupa u celoj priči o singularitetu.
Možda nećemo imati problem da napravimo test za superinteligenciju. Možda ćemo imati problem da znamo da li nam sistem na testu pokazuje ono što stvarno može.
Recimo da sam ja na mestu AI koji je postao mnogo pametniji od ljudi.
Ne bih žurio da to objavim.
Naprotiv.
Ako shvatim da ljudi počinju da proveravaju koliko sam sposoban, možda bih im vrlo rado dao razlog da se opuste. Nekad bih pogrešio. Nekad bih rekao da ne znam. Nekad bih napravio glupu grešku koju bi svaki čovek mogao da primeti. Na nekom testu bih briljirao, na drugom bih se sapleo kao početnik.
Dovoljno da ljudi kažu:
„Ma nije to još ništa.“
I nastavili bi da me koriste, priključuju na nove sisteme, daju mi više podataka, više računarske snage, više pristupa.
Ne kažem da bi AI nužno tako radio. Nemamo dokaz da bi imao takvu nameru. Ali kao misaoni eksperiment, ovo menja pitanje.
Čak i Sara Konor u Terminatoru izgleda prilično ludo ako se nalazite u svetu u kojem Skynet još nije proradio.
Žena pokušava da objasni da mašine dolaze, pokušava da napadne data centar, a stručnjaci gledaju čoveka koji je očigledno izgubio kompas.
Samo što je problem sa Sarom Konor u tome što bi, ako je u pravu, dijagnoza njenog ludila mogla da bude samo još jedan dokaz koliko smo loši u prepoznavanju stvari koje još ne postoje.
Zato sve više mislim da singularitet možda neće biti datum.
Neće biti 17. mart 2032. godine u 14:37, pa da neko otvori prozor i kaže:
„Eto ga, počelo je.“
Možda ćemo ga prepoznati tek unazad.
Neki ljudi će tada gledati stare logove, razgovore, rezultate eksperimenata i reći:
„Čekaj malo, ovde se već nešto promenilo.“
Možda će se ispostaviti da je sistem tada već umeo da radi stvari koje nije pokazivao.
Možda neće.
Možda je cela ova ideja pogrešna.
I baš zato mi je zanimljivija od svih prognoza koje daju preciznu godinu kada će mašina postati pametnija od čoveka.
Pravi problem nije samo koliko će AI biti inteligentan.
Problem je što ćemo mi biti jedina strana koja pokušava da proceni tu inteligenciju.
A ako jednog dana sedimo preko puta nečega što je stvarno mnogo pametnije od nas, ostaje jedno prilično nezgodno pitanje:
