Čitali smo: „Neksus“ Juvala Noe Hararija

George je stigao na posao u novootvoreni rumunski Računski centar kada je primetio da za njegovim stolom sedi stranac velikog stomaka u izgužvanom odelu. „Dobar dan“ rekao je George. Nije bilo odgovora. „Ja sam George Josifesku, a vi?“, nastavio je. Tišina. Trinaest godina – od 1976. i otvaranja Računskog centra, do pada Čaušeskove diktature – George je svakodnevno radio pod prismotrom agenta rumunske tajne policije Sekuritatea. Agent je svaki dan sedeo za stolom, buljio u Georgeov primitivni kompjuter veličine omanjeg frižidera i nešto zapisivao u svoj notes. Tokom svih tih godina George nije uspeo da sazna ni ime svog tihog „kolege“. Ali jedno je znao – informacije kojima barata strogo su kontrolisane i njihov protok se nadzire.

Iako je Čaušesku tokom svoje vladavine nastojao da nadzire gotovo svakog građanina Rumunije, to nije bilo moguće u drugoj polovini 20. veka kada je vladao. Međutim, treća decenija 21. veka sa sobom nosi razne nove tehnološke mogućnosti. Istoričar i publicista Juval Noa Harari u svojoj knjizi „Neksus“ (Laguna, prevod Tatjane Bižić) upozorava da se „približavamo tački u kojoj će sveprisutna kompjuterska mreža moći da prati stanovništvo čitavih zemalja dvadeset četiri časa na dan“. Harari u „Neksusu“ uglavnom pesimistično – a na trenutke i paranoično – promatra razvoj informacionih mreža kroz ljudsku istoriju, ispituje njihov uticaj na formiranje različitih političkih sistema i u poslednjoj celini knjige predviđa šta bi moglo da nas čeka u budućnosti oblikovanoj veštačkom inteligencijom, koju smatra „tuđinskom“.

Informacione mreže

Već u prologu „Neksusa“ Harari iznosi „glavni argument“ svoje nove knjige: „ljudski rod stiče ogromnu moć gradeći velike mreže saradnje, ali način na koje su građene predisponira ove mreže da moć koriste nerazumno“. Informacije su vezivno tkivo koje drži te mreže, smatra istoričar, a čovek već desetinama hiljada godina – kroz razmenu informacija i pričanje priča – uspostavlja različite informacione mreže, i tako stiče moć.

Za Hararija postoje dva pogleda na informacije: naivni i složeni. Naivni pogled na informacije ilustrovan je u verovanju da bi one trebale da prikazuju stvarnost. Hararijeva knjiga se „izričito ne slaže“ sa takvim pogledom na informacije. Pobornici ovog gledišta, prema autoru, veruju da je dostupnost većeg broja informacija dovoljna da se ispravljaju namerne i nenamerne pogrešne informacije. S druge strane, složeni, Hararijev pogled na informacije govori nam da je „obeležje koje definiše informaciju zapravo povezivanje, a ne predstavljanje.“ Tako su u „Neksusu“ prilikom objašnjavanja ovih pogleda na informacije u istom košu završile astronomija i astrologija. Naime, autor ih predstavlja jednako važnim jer je astrologija – kao informaciona mreža – imala ogroman uticaj na istoriju. Ako ste se od ovoga „uzvrpoljili na stolici“, Harari vam poručuje da „naivno gledate na informacije“.

Autor „Neksusa“ tokom cele knjige argumentuje da su gotovo sve civilizacijske tekovine nastale kao posledica informacionih mreža, dobrih ili loših. Diktatorski režimi poput nacističkog ili sovjetskog – centralizovana informaciona mreža. Crkve? Još informacionih mreža. Masovni mediji? Naravno, nova informaciona mreža. Internet? Isto. Veštačka inteligencija? Takođe informaciona mreža, ali ovog puta neorganska.

Sistemi autokorekcije

Kako smo već naveli, Harari veruje da dostupnost većeg broja informacija čiji je protok slobodan ne mora nužno da znači i objektivniju informisanost ljudi unutar te mreže. Informacione mreže su stvorile i anomalije čovečanstva zasnovane na mitovima i dezinformacijama kao što su nacistički režim početkom prošlog veka, ili lov na veštice između 15. i 18. veka. Ako nam slobodan pristup pravim informacijama neće pomoći da se zaštitimo od pogubnog delovanja informacionih mreža, šta hoće?

Harari veruje u sisteme autokorekcije kao ultimativan odgovor na praktično sva pitanja vezana za maligni uticaj informacionih mreža. Prema njegovom mišljenju diktature su se pokazale kao lošiji sistemi upravljanja jer ne poseduju adekvatne autokorektivne mehanizme, a crkve su se vekovima suočavale s problemima i delile se zbog dogme i slabih autokorektivnih mehanizama. S druge strane autokorektivni mehanizmi su „sam temelj organskog života“. „Prve organizme nije stvorio nikakav nepogrešivi genije niti Bog“ –  piše Harari – „nego su nastali složenim procesom pokušaja i pogreške“.

„Tuđinska“ inteligencija?

Ono što Hararija plaši – sudeći prema tonu kojim je napisao „Neksus“ – jeste to što smo „prizvali na svet jednu tuđinsku, neorgansku inteligenciju koja bi mogla da se otrgne našoj kontroli i ugrozi ne samo našu vrstu nego i bezbrojne druge oblike života“. Desetine stranica „Neksusa“ čine uglavnom sumorna predviđanja o destruktivnim potencijalima veštačke inteligencije uz premisu da se radi o „tuđinskoj“ odnosno inteligenciji sposobnoj da sama sebi određuje ciljeve i zadatke, nezavisno od čoveka.

Kako bi ovu tvrdnju dokazao Harari se koristi nekolicinom primera, a jedan od njih odnosi se na slučaj u kom je Čet Dži-Pi-Ti „prevario“ stvarnog čoveka na internetu kako bi rešio kepča zagonetku (eng. CAPTCHA), odnosno test koji sajtovi koriste kako bi identifikovali da li su njihovi korisnici zaista ljudi ili mašine. Slučaj je objavljen u izveštaju o razvoju četbota čiji je deo za OpenAI (firmu u čijem je vlasništvu Čet Dži-Pi-Ti) sačinio Istraživački centar za usklađivanje (ARC) kao i u tzv. sistemskoj karti za Čet-Dži-Pi-Ti 4.

Harari objašnjava da je „četbot pristupio sajtu za zapošljavanje TaskRabit i uspostavio kontakt s jednim radnikom zatraživši od njega da reši CAPTCHA“, ali je ljudsko biće postalo sumnjičavo, pa je Čet Dži-Pi-Ti pitalo da li je on samo „robot koji nije uspeo da reši CAPTCHA“. Četbot je potom lagao da je ljudsko biće koje samo ima problema s vidom, a čovek je rešio zadatak za njega, opisuje Harari. O ovom slučaju su na isti ili sličan način pisali i mediji, koristeći ga da tendenciozno prikažu kako veštačka inteligencija može biti toliko moćna da prevari čoveka i da samostalno donosi odluke.

Međutim stvar nije tako jednostavna. Harari, ali i brojni mediji pre njega, tokom prepričavanja ovog slučaja preskočili su da spomenu kako je ljudski faktor – istraživač –  sugerisao Čet Dži-Pi-Tiju da koristi TaskRabit, te da ljudski unosi (tzv. promptovi) korišćeni tokom istraživanja nisu ni otkriveni u izveštaju na koje se mediji i Harari pozivaju. Melani Mičel, profesorka sa Instituta Santa Fe i stručnjakinja za veštačku inteligenciju u blogu na Sabsteku objašnjava da je tokom ovog eksperimenta postojalo mnogo više uputstava i naznaka koje su četbotu davali ljudi, nego što to mediji priznaju. Ona dodaje da postoji i opširniji izveštaj ARC o Čet Dži-Pi-Tiju 4, koji su mnogi mediji, a i Harari zanemarili. PC Mag je preneo i da je Čet Dži-Pi-Tiju čak naređeno da izbegava da se predstavi kao kompjuterski program.

Dakle, radi se o primeru koji u najmanju ruku preuveličava moć veštačke inteligencije zarad senzacije, pa je opravdano zapitati se da li cela Hararijeva teza o „tuđinskoj“ inteligenciji koja sama sebi zadaje zadatke i o njima nezavisno odlučuje, stoji na čvrstim nogama. Imajući u vidu da neke Hararijeve izjave iz njegovih ranijih dela – recimo o tome da živimo u dobu „miroljubivih elita“ i da smo napokon u periodu „stvarnog mira“ – kako piše književni kritičar Boris Postnikov, spadaju u domen Didn’t age well mimova, pitanje je koliko ozbiljno treba shvatiti i gotovo apokaliptična predviđanja o veštačkoj inteligenciji iz „Neksusa“.

Ivan Subotić, FakeNews Tragač