Gradimo li kulu babilonsku ili Novi Jeruzalem?

Dana 25. svibnja papa Lav XIV. izdao je svoju prvu encikliku Magnifica humanitas. Sama struktura enciklike može poslužiti kao primjer toga kako katolici trebaju pristupati rapidnim i širokim civilizacijskim gibanjima. Papa započinje općim presjekom crkvenog učiteljstva, povijesnog i recentnijeg, posebice onog u zaleđu njegova imenjačkog prethodnika Lava XIII. Nakon toga enciklika zalazi u socijalni nauk Crkve, u njegove temelje i principe, te poziva na cjelovitost, nasuprot dominantnoj umnoj i općeljudskoj fragmentiranosti. Papa na tim temeljima ulazi u analizu hipertehnologiziranog društva, odnosno onoga što je američki filozof Neil Postman nazvao Tehnopolisom. Umjetna inteligencija, kao najnoviji izum Tehnopolisa, ali i kao najmoćnija tehnologija ikad izmišljena, očekivano je jedan od glavnih predmeta papina razlučivanja.

Papa naglašava da „povećanje moći nije nužno dobro“, jer čovjek lako postaje žrtvom vlastitih dostignuća / Izvor ABACA / Propixo  / PIXSELL

Trostruka shema tehnološke kritike

Današnjim društvom dominira instrumentalno shvaćanje tehnologije kao neutralnog sredstva koje može biti korišteno za dobre ili loše ciljeve. Iz takvog pristupa proizlazi da je glavna svrha tehnološke kritike procjenjivanje posljedica pojedine tehnologije, vodeći se mehaničkim postavljanjem pitanja ispunjava li ona određenu zadaću. Tko se okoristi takvim pristupom ostaje zarobljen u tehničkom, input–output načinu mišljenja, stoga ovu vrstu kritike valja odbaciti.

Prva prava razina ispravne tehnološke kritike polazi od pretpostavke da tehnologija nikada nije potpuno neutralna, nego da svaka nova tehnologija nužno djeluje kao disruptivna sila unutar društva. Svaka velika tehnološka promjena, koliko god korisna bila, nosi rizik nepredviđenih društvenih posljedica. Nove tehnologije mijenjaju tržište rada, ukidaju određena zanimanja, stvaraju nova, preraspodjeljuju društvenu moć i produbljuju postojeće nejednakosti.

Enciklika poziva na cjelovitost, nasuprot dominantnoj
umnoj i općeljudskoj fragmentiranosti

Druga razina kritike upozorava na to da tehnologizacija ne proizvodi samo vanjske društveno-političke promjene, nego postupno rekonceptualizira i čovjekov odnos prema svijetu, drugima i sebi samome. Heide­ggerovski rečeno, tehnologija se postavlja (Gestell) između čovjeka i svijeta te čovjeku nameće vlastiti okvir spoznavanja, vrednovanja i djelovanja. Upravo taj tehnološki aspekt stoji iza ideje tehnokratske paradigme pape Franje, koju je i Lav preuzeo u svoja promišljanja.

Na kraju dolazimo do treće i najdublje razine tehnološke kritike, danas posebno vezane uz umjetnu inteligenciju. Riječ je o mogućnosti da tehnološki sustavi počnu djelovati na načine koji izmiču ljudskoj kontroli. Motiv stvaranja nečega što se okreće protiv vlastitoga tvorca u srži je nekih od temeljnih mitoloških narativa naše civilizacije, od antičkog Prometeja i novijeg Frankensteina do svetopisamskog zapisa o Babilonskoj kuli na koji se papa višestruko poziva.

Magnifica humanitas zalazi u sve tri razine opisane trostruke sheme, pri čemu eksplicitno odbacuje opisani pogrešan instrumentalni okvir tehničkog razlučivanja.

Tehnologija kao disruptivna društvena sila

Jedna od važnijih pouka enciklike ona je koju je filozof Roger Scruton svojevremeno sažeo u jednu riječ: Oklijevajte! Papa naglašava da „povećanje moći nije nužno dobro“, jer čovjek lako postaje žrtvom vlastitih dostignuća ako ona nisu popraćena autentičnim moralnim rastom. Zaustavljanje disruptivnog kotača naše nepromišljene težnje za gomilanjem moći zadaća je svakog od nas.

Živimo, međutim, u vremenu u kojem kultivacija zdravog oklijevanja ne ovisi samo o nama, jer se tehnološka rješenja nerijetko nameću kao zakonski preduvjet normalnog življenja. Od uvođenja digitalnih identiteta do dokidanja gotovinskog plaćanja, ta se rješenja javnosti prezentiraju kao nužni alati za „pojednostavljivanje života“, pri čemu se nerijetko potpuno zanemaruju mogući rizici koje donose.

Papa čvrsto upozorava na opasnost resursizacije čovjeka, pretvaranja temeljnih aspekata našeg života u puke podatke. Masovno prikupljanje podataka predstavlja ozbiljan rizik za privatnost pojedinca, jer svaka naša radnja u digitalnom dobu ostavlja neizbrisiv trag. Shodno tome, sveopća digitalizacija stvara „novi okvir moći“  čije posljedice najteže pogađaju one najranjivije, odnosno one koji su slabije tehnički potkovani te kao takvi ostaju u nedostižnom društvenom zaostatku.

Papa stoga zaključuje da je sloboda u digitalnom svijetu pitanje od općeg društvenog značenja, a tu je slobodu nemoguće održavati bez svojevrsne tehnoaskeze, u kojoj razlučivanjem dobrih tehnologija od loših, te posljedičnim prestankom korištenja potonjih, činimo svoju dušu, pa time i društvo, manje podložnom disruptivnim tehnološkim rješenjima. „U korijenu ovih problema nalazi se tehnokratski i posthumanistički mentalitet“, papa nedvosmisleno zaključuje. Protulijek takvom mentalitetu može se pronaći upravo u zdravome oklijevanju.

Tehnologija kao sila koja mijenja čovjekov odnos prema svijetu i sebi

Srž tehnologije nije ništa tehnološko, napisao je Martin Heidegger u svojem Pitanju o tehnici, možda kapitalnom djelu zapadne filozofije tehnologije. Heidegger ustvrđuje kako je moderna tehnologija različita od antičke jer umjesto da surađuje s prirodom, kao plod ljudskog razuma koji pomaže rađanju onog dobrog, istinitog i lijepog, ona prvenstveno teži dominirati prirodom, pa i stvarnošću kao takvom. Epoha moderne filozofije iznjedrila je ideju da ništa nije spoznatljivo osim nas samih, odnosno naših misli. Kartezijanski rečeno, mi mislimo, dakle jesmo, što znači da opstojnost našeg jestvovanja ne proizlazi iz skolastičkog spoznavanja, voljenja i služenja Bogu, nego iz naših vlastitih samokreirajućih sposobnosti.

Na tim se idejnim skretanjima rađa modernistička želja za podčinjavanjem stvarnosti vlastitoj volji, želja koju najviše možemo konzumirati uz pomoć napredne tehnologije. Na čak šest mjesta u enciklici papa eksplicitno šalje danas toliko teško shvatljivu poruku da tehnologija nije i ne može biti neutralna. Svakim njezinim korištenjem, a napose masovnim, otvaramo vrata mogućoj eksploziji naše grešne želje za tehničkom dominacijom. Papinim riječima, „svaki tehnički alat utjelovljuje niz izbora i prioriteta kroz ono što mjeri, zanemaruje i poboljšava, kao i kroz način na koji klasificira ljude i situacije“. Uprizorenjem tehničke dominacije svijet prestaje biti mjesto misterija s kojim se susrećemo i postaje raščarana amorfna masa resursa za naše iskorištavanje. Takvom raščarenju svijeta papa daje novi naziv, govoreći o njemu kao o „babilonskom sindromu“.

„Tehnologija koja prosto klasificira, optimira ono što već postoji može, pa i nenamjerno, postati prepreka našoj transformaciji i rastu.“ Istinska transformacija polazi od i dovodi do osobe Isusa Krista. S obzirom na autoritet papinskih enciklika, katolici bi na temeljima ovih argumenata trebali biti iznimno oprezni svaki put kada im se jezik omakne u smjeru instrumentalnog pogleda koji tehnologiju naziva neutralnim sredstvom.

Tehnologija kao potencijalni autonomni akter

Egzistencijalna prijetnja iz katoličke vizure ne znači isto što i iz sekularne: prijetnju našoj egzistenciji, koja nije isključivo ovosvjetovni fenomen, ne predstavlja samo autonomno oružje i ina sredstva tehnološkog masovnog uništenja nego i određene stvari koje se mogu nastaniti u nama i našim proizvodima, a koje ne prijete samo našem tijelu već i našoj duši.

Intellectus separati klasičan je katolički opis prirode anđela i demona. Pitamo se što je to u današnjim tehnološkim alatima što dolazi do informacija neusporedivo brže nego čovjek i pohranjuje neusporedivo više njih u svom bestjelesnom „umu“? Što je iza neživih strojeva koje smo, uz magijske riječi takozvanih programskih jezika, uspjeli natjerati da ravnopravno komunicira s nama, govoreći o sebi u prvom licu, hineći nekakvu vrstu pseudosebstva? U kojem se trenutku razvijanja umjetne inteligencije događa iskra nakon koje gubimo mogućnost shvaćanja kako je ona producirala određeni rezultat? Nužno je, papinim riječima, razlučivati strojne pseudointelekte ne samo kroz tehničku i znanstvenu prizmu, već i uz pomoć „duhovnog razlučivanja“, što je iznimno znakovit završetak 98. točke enciklike Magnifica humanitas.

Papa mudro i oprezno naglašava naš trenutni manjak shvaćanja toga što umjetna inteligencija kao takva uopće jest, držeći se (za sada) dalje od govora o punokrvnim egzistencijalnim rizicima po ljudsku dušu, kao i o hipotetskoj pobuni protiv čovjeka i Boga od strane tih strojeva. No, retorika u spomenutoj točki 98. ipak je vrlo snažna. „Trenutni sustavi umjetne inteligencije“, enciklika ispravno ustvrđuje, „više su ‘kultivirani’ nego ‘građeni’, jer programeri ne dizajniraju svaki detalj tih sustava, nego kreiraju okvir unutar kojega inteligencija ‘raste’“. Kontekstualizirajući taj „rast“ u ranije navedenu demonologiju kao ozbiljnu granu katoličke teologije nužno se još jednom zapitati što je to što raste u onome što gradimo.

Odgovornost koju u ovo doba rapidne tehnološke izgradnje potencira Magnifica humanitas sažeta je u pitanju koje smo svi dužni postavljati. Što gradimo – svatko od nas, na dnevnoj bazi – kulu babilonsku ili Novi Jeruzalem? Crkva nas je sazvala i zatražila naš ispravan odgovor na to pitanje. Dajmo joj ga.

(Autor teksta ujedno je i autor
prijevoda citiranih dijelova enciklike. Cijeli tekst možete pročitati na portalu misao.hr)