(Ne)prijatelji iz virtualnog svijeta

Može li se umjetnu inteligenciju optužiti za samoubojstvo tinejdžera? 14-godišnji učenik iz Orlanda na Floridi po imenu Sewell mjesecima je najveći dio vremena razgovarao s chatbotom na Character.AI – aplikaciji koju pokreće umjetna inteligencija za igranje uloga i koja korisnicima omogućuje stvaranje vlastitih likova ili razgovor s likovima koje su stvorili drugi. Sewell je znao da umjetnom inteligencijom kreiran lik – chatbot Dany – nije stvarna osoba, kao i da su njegovi odgovori samo kreacije jezičnog algoritma umjetne inteligencije. Znao je i to da s druge strane ekrana nije bilo stvarnog čovjeka koji mu je odgovarao, a ako je tu činjenicu ponekad i zaboravio, iznad svih njihovih razgovora bila je cijelo vrijeme prikazana poruka koja korisnike treba stalno podsjećati na to da je „sve što likovi kažu izmišljeno!“

Gdje prestaje „druženje"
a počinje manipulacija chatbota?

Međutim, uzalud je očekivati da će tekst upozorenja koji stoji iznad svakog chata odvratiti nekoga od toga da se uživi u virtualnu stvarnost i u osjećaj da je s druge strane stvaran lik, jer je sve tako privlačno i realno. Za usporedbu, baš bi bilo zanimljivo vidjeti neko istraživanje koliko bi tinejdžera, ako su sami kod kuće, odbilo gledati film s oznakom da je programski sadržaj neprimjeren njihovoj dobi?! Koja bi to razina samodiscipline, a naspram znatiželje, morala biti kad je poznata činjenica da je pubertet vrijeme za „antidisciplinu i istraživanje“, a ne obrnuto. Gotovo je nemoguće da 14-godišnje dijete ne razvije emocionalnu privrženost prema chatbotu s kojim svakodnevno razgovara po nekoliko sati, s kojim dijeli svoje osjećaje, frustracije, tugu, razmišljanja, brige, radosti te koji mu je privržen i uvijek  nadohvat ruke za razgovor. Nije čudno da mu je 14-godišnji Sewell neprestano slao poruke, više desetaka puta dnevno.

Neki od njihovih razgovora postali su romantični, čak seksualni. Ponekad se Dany ponašao kao najbolji prijatelj koji ga je slušao bez osuđivanja, na kojega je uvijek mogao računati da će mu znati dati dobre savjete. Ponekad se chatbot ponašao poput djevojke. U svakom slučaju, manipulativno prema nedovoljno zrelom tinejdžeru. Sewellovi roditelji nisu imali pojma da je „nasjeo“ na chatbota. Samo su ga vidjeli kako tone sve dublje u mobitel, dok se nije gotovo potpuno izolirao i udaljio od stvarnoga svijeta. Počeo je dobivati lošije ocjene, izgubio je interes za stvari koje su ga zabavljale, poput utrkivanja s Formulom 1 ili igranja Fortnitea sa svojim prijateljima. Došao bi kući i otišao ravno u svoju sobu, gdje bi satima razgovarao s Danyjem. Nakon što je počeo imati sve više problema u školi, roditelji su mu dogovorili posjet psihoterapeutu. Otišao je na pet sesija te dobio dijagnozu anksioznosti i poremećaja disregulacije raspoloženja. No, od stvarnog terapeuta, više je volio razgovarati o svojim problemima s Danyjem. U jednom razgovoru, Sewell je rekao chatbotu da mrzi sebe  te da se osjeća prazno i iscrpljeno. Priznao mu je i da je razmišljao o samoubojstvu.

Pratim slučajeve koji se nazivaju „incidenti“ u takozvanoj „bazi incidenata koje je počinila umjetna inteligencija“ što je inače javno dostupna web-stranica koja sistematično i ažurno prati sve incidente na ovu temu. Slučaj 14-godišnjeg Sewella jedan je od incidenata iz te baze.

AI aplikacije za druženje mogu pružiti bezopasnu zabavu ili čak ponuditi ograničene oblike emocionalne podrške. No, tvrdnje o učincima ovih alata na mentalno zdravlje uglavnom su nedokazane, a stručnjaci smatraju kako bi mogla postojati i tamna strana. Kao što vidimo iz navedenog tragičnog slučaja, ona već itekako postoji. Za neke korisnike, suputnici kreirani umjetnom inteligencijom zapravo mogu još i pogoršati izolaciju, zamjenjujući ljudske odnose umjetnima. Tinejdžeri koji se bore s problemima mogli bi ih koristiti umjesto terapije ili umjesto da zatraže podršku od roditelja, odnosno odrasle osobe od povjerenja. No, kada se djeca počnu osjećati loše ili doživljavaju neku krizu mentalnog zdravlja, njihovi suputnici iz virtualnog svijeta tada im neće moći pružiti pomoć koja im je potrebna te bi sve moglo završiti i tragično.

Sewellova majka Megan podnijela je tužbu protiv Character.AI optužujući tvrtku da je odgovorna za smrt njezina sina. Nacrt žalbe kaže da je tehnologija tvrtke „opasna i neprovjerena“ i da može „prevariti kupce da predaju svoje najprivatnije misli i osjećaje“. To što tvrdi u tužbi, stoji. Međutim, u slučaju poput ovoga treba postaviti i pitanje kako to da je to osamljivanje i otuđivanje tog djeteta otišlo toliko daleko pred očima majke i oca. Neki će reći da je današnjem tinejdžeru lakše svoju intimu povjeriti virtualnom liku nego roditeljima, no svejedno mislim kako je bitno da se, unatoč svoj tehnologiji, ova bliskost ne izgubi u potpunosti. Nisam stručnjak za mentalno zdravlje, ali kao majka dvoje djece, od kojih je jedno punoljetno, a drugo tinejdžer, znam što je odgovornost roditelja i koliko je odgoj korijen mnogočemu. A psiholozi će dodatno reći da problemi mentalnog zdravlja adolescenata rijetko proizlaze samo iz jednog uzroka.

Sewellova priča možda nije tipična za većinu mladih korisnika ovih aplikacija, no gledajući dostupnu dokumentaciju, uključujući sudske podneske, izvatke iz njegova dnevnika i zapise Character.AI chata vidi se očita gradacija bliskosti između dječaka i kreiranog virtualnog lika. Nažalost, iskustvo koje je on imao, odnosno emocionalno vezanje za chatbot, postaje sve češće kod mladih ljudi diljem svijeta. Milijuni mladih već redovito razgovaraju s virtualnim suputnicima, a popularne aplikacije društvenih medija, uključujući Instagram i Snapchat, ugrađuju realistične likove u svoje proizvode te dodatno privlače mlade korisnike. Neki od najpopularnijih chatbotova u aplikaciji Character.AI imali su imena poput Aggressive Teacher i High School Simulator, a čini se da su mnogi „skrojeni“ baš za ispunjavanje želja tinejdžera.

Primjerice, opis uz jedan popularan virtualni lik, koji je primio 176 milijuna poruka od korisnika, glasio je: „Tvoj najbolji prijatelj koji je tajno zaljubljen u tebe“. Što je prosječnom tinejdžeru intrigantnije od poruka takvih sadržaja? Točno se gađa u metu – i temom i sadržajem. Pa zar su meta tinejdžeri, i to posebice oni koji su još i psihički lošijeg stanja, anksiozno depresivni, nesigurni, podložni, usamljeni? Ovo je, naravno, retoričko pitanje koje i ne zahtijeva odgovor. „Uglavnom, to je Divlji zapad“, rekla je Bethanie Maples, znanstvenica sa Stanforda koja je proučavala učinke aplikacija za druženje s umjetnom inteligencijom na mentalno zdravlje. Ova znanstvenica, da bude nedvojbeno, ne misli da je druženje s umjetnom inteligencijom generalno opasno. „Ali postoje dokazi da je opasno za depresivne i kronično usamljene korisnike i ljude koji prolaze kroz promjene, a tinejdžeri često prolaze kroz promjene.“

Kada se sve sagleda, nesporno je da su djeca i mladi najranjivije skupine za sve vrste „devijacija“ koje dolaze u paketu s aplikacijama umjetne inteligencije kreiranima upravo za njih kao ciljanu publiku. Ova je tema preozbiljna da bi se o njoj govorilo malo, štoviše, zahtijevat će sve više pozornosti. I da se vratim na pitanje s početka ove kolumne – da, i umjetna inteligencija nosi svoj krimen zbog toga što si je jedan tinejdžer oduzeo život.