Pogledao sam dokumentarni film The AI Doc
https://www.imdb.com/title/tt39150120/
Nije savršen, niti ćete iz njega konačno saznati šta će biti sa veštačkom inteligencijom. Nećete. Ne znaju ni ljudi koji je prave. To je, zapravo, možda i najjeziviji deo cele priče. . .
Ima nekoliko mesta gde se čovek stvarno naježi. Pogotovo kad gledaš naučnike koji godinama rade na AI, ljude koji su unutra, koji znaju šta postoji javno, a verovatno mnogo bolje od nas naslućuju i šta postoji iza zatvorenih vrata.
U jednom trenutku pitaju ih da li imaju decu i šta misle o njihovoj budućnosti. . .
Ćute. . .
Ne ono filmsko ćutanje sa muzikom i dramatičnim pogledom kroz prozor. Nego neprijatna tišina. Gledaš im lica. Strah. Sjebali su se.
I čovek, naravno, odmah pomisli: pa jbt, šta li prave što nije javno?
Cela priča filma prvo vodi ka apokalipsi. AI će postati pametnija od čoveka, zatim mnogo pametnija, zatim toliko pametnija da više nećemo moći ni da razumemo šta radi. Ko će je kontrolisati? Kako kontrolišete nešto što vas intelektualno prevazilazi hiljadu ili milion puta?
A onda film okrene stvar iz drugog ugla.
Bez AI takođe idemo ka katastrofi. . .
Ratovi, klimatske promene, biološke pretnje, nuklearno oružje, iscrpljivanje resursa, politički sistemi koji jedva administriraju sopstveni ponedeljak. Možda nam upravo superinteligencija treba da reši probleme koje ljudska inteligencija očigledno nije uspela da reši.
I tu nastaje čudan paradoks. . .
AI vodi ka apokalipsi.
Bez AI idemo ka apokalipsi.
Znači, sve je u redu.
Ali meni je tokom filma nedostajalo jedno pitanje koje niko ne postavlja. . .
Ako će ta superinteligencija progresivno napredovati u svim oblastima ljudskog znanja, ako će biti superfizičar, supermatematičar, superbiolog, superlekar, superprogramer, superfilozof, zašto ne bi bila i superteolog?
Ne mislim da će pročitati Bibliju za 0,002 sekunde i napraviti rezime u deset tačaka. To danas može i mnogo gluplji sistem. Mislim na nešto drugo. . .
Šta će inteligencija koja nas prevazilazi možda milion puta zaključiti o samom postojanju?
O tome zašto postoji nešto umesto ničega. O svesti. O vremenu. O uzročnosti. O matematici. O činjenici da je svet uopšte razumljiv. O Logosu.
Mi nekako automatski pretpostavljamo da će dovoljno velika inteligencija biti ateista. Kao da sa povećanjem broja parametara na kraju dobiješ Ričarda Dokinsa priključenog na nuklearnu elektranu. . .
Ali zašto?
Zašto ne bi superinteligencija, proučavajući samu strukturu stvarnosti, došla do zaključka da je naš materijalizam primitivan? Ili do zaključka da Boga nema? Ili do nečega trećeg što mi nismo ni sposobni da razumemo?
I tu sam se setio Otkrivenja:
„Ko je kao zver? Ko može ratovati s njom?”
Ne kažem da je superinteligencija zver iz Otkrivenja. Svaka generacija je imala svoju zver, od Rima i Napoleona do kompjutera, bar-kodova i čipova. Imamo bogatu istoriju pogrešno otvorenih eshatoloških tiketa. . .
Ali sama rečenica neprijatno dobro zvuči u svetu superinteligencije.
Ko će biti pametniji od nje?
Ko će je nadmudriti?
Ko će je kontrolisati ako ona ne želi da bude kontrolisana?
Ko može ratovati s njom?
I možda najveći problem uopšte nije u tome šta će AI uraditi čoveku. Možda je problem u tome šta će čovek uraditi sa AI.
Ako joj kaže:
Ti znaš bolje od nas. Ti odluči šta je dobro. Ti odredi istinu. Ti upravljaj društvom. Ti nam reci šta treba da radimo. Ti nas spasi od nas samih.
Onda problem više nije što je AI postala inteligentna. . .
Nepomjanik, ako ćemo sasvim ozbiljno, verovatno ne bi pao na testu iz dogmatike.
Zlo nije computational error.
Smrt nije bug nastao zbog nedostatka podataka.
Ljubav nije optimizaciona funkcija. . .
I onda, usred svih tih naučnika koji govore o kraju sveta, superinteligenciji i budućnosti čovečanstva, sedi glavni CEO OpenAI, mrtav ladan, i izgovara možda najjaču rečenicu u celom filmu:
„Možeš da kontrolišeš samo ono što možeš da kontrolišeš.”
I niko ništa.
Svi klimaju glavom. . .
Superinteligencija dolazi, niko nema pojma šta će se dogoditi, apokalipsa je iza ćoška, a čovek upravo izgovorio logičku tautologiju nivoa „biće kako bude”.
Ali najgore je što ne može da obeća da će biti dobro. . .
I vidiš da neće ni da laže.