Zaštita maloletnika u AI sistemima – Kako obezbediti da AI tehnologije koje koriste mladi budu bezbedne i odgovorne (deo 8): https://www.itnetwork.rs/zastita-maloletnika-u-ai-sistemima-kako-obezbediti-da-ai-tehnologije-koje-koriste-mladi-budu-bezbedne-i-odgovorne-deo-8/

Sa sve većom upotrebom veštačke inteligencije (AI) na digitalnim platformama namenjenim mladima, pitanje zaštite mentalnog zdravlja postaje od suštinske važnosti. Mladi su često izloženi sadržajima i algoritmima koji mogu izazvati stres, anksioznost ili depresiju, bilo kroz podsticanje nezdravog samopoređenja, agresivne takmičarske strukture ili manipulativne taktike koje podstiču zavisnost. Da bi se sprečili negativni uticaji koje AI platforme mogu imati na mentalno zdravlje mladih, neophodno je razviti etičke pristupe u dizajnu AI sistema koji će prepoznati i podržati psihološku dobrobit korisnika.

Prepoznavanje i izbegavanje taktika koje mogu dovesti do anksioznosti

AI algoritmi često funkcionišu tako da prilagođavaju sadržaj prema interesovanjima korisnika, ali to može dovesti do prekomernog izlaganja određenim temama koje izazivaju anksioznost. Na primer, društvene mreže mogu preporučivati sadržaje o „idealnom“ životnom stilu ili izgledu, podstičući nezdravu potrebu za samopoređenjem, što može negativno uticati na samopouzdanje mladih. Ovakav pristup može dovesti do osećaja nesigurnosti, nezadovoljstva i emocionalnog stresa.

Da bi se sprečili ovakvi efekti, AI sistemi mogu biti programirani da prepoznaju obrasce ponašanja koji ukazuju na anksioznost ili stres i prilagode preporuke sadržaja. Na primer, ako algoritam uoči da korisnik često pretražuje teme povezane sa nerealnim standardima lepote, može preporučiti sadržaj koji promoviše pozitivno samoprihvatanje i realne standarde. Ovi algoritmi mogu takođe detektovati prekomerno vreme provedeno na određenim sadržajima i podstaći korisnika da napravi pauzu, pružajući mu mogućnosti za opuštanje ili aktivnosti van mreže.

Podrška kroz pozitivne preporuke i resurse za mentalno zdravlje

AI ima potencijal da aktivno podrži mentalno zdravlje mladih kroz preporuke koje promovišu pozitivne obrasce ponašanja i emocionalnu dobrobit. Algoritmi mogu biti programirani da favorizuju sadržaje koji podstiču lični razvoj, poput edukativnih tekstova o emocionalnoj inteligenciji, motivacionih poruka ili praktičnih saveta za upravljanje stresom. Takvi sadržaji ne samo da pružaju mladima korisne informacije već i direktno utiču na njihovo emocionalno stanje, pomažući im da razviju otpornost prema izazovima.

AI sistemi mogu i detektovati signale stresa ili emocionalne iscrpljenosti kod mladih korisnika. Na primer, ako algoritam identifikuje učestale interakcije sa sadržajima koji ukazuju na negativne emocije, može predložiti resurse za mentalno zdravlje, kao što su aplikacije za meditaciju, tehnike disanja ili kontakt s relevantnim savetovalištima. Ovo omogućava mladima da dobiju podršku u ključnim trenucima i razviju zdravije obrasce suočavanja sa stresom.

Sprečavanje zavisnosti i promovisanje ravnoteže

Zavisnost od digitalnih platformi može imati ozbiljne posledice po mentalno zdravlje, uključujući poremećaje sna, povećan stres i osećaj izolacije. AI sistemi mogu igrati ključnu ulogu u prevenciji ovih problema kroz postavljanje vremenskih ograničenja i podsticanje korisnika na pravljenje pauza. Na primer, ako algoritam prepozna da je korisnik proveo previše vremena na platformi, može poslati obaveštenje sa sugestijom za pauzu i predlogom aktivnosti koje ne uključuju ekran.

Roditeljske kontrole mogu biti integrisane u AI sisteme, omogućavajući roditeljima da nadgledaju vreme koje njihova deca provode na platformama i da postave ograničenja za korišćenje. Ovo je posebno važno za mlađe korisnike, koji možda još nemaju razvijene veštine upravljanja vremenom. AI može pružiti dodatne izveštaje roditeljima, što im omogućava da blagovremeno reaguju i podrže decu u razvijanju zdravih navika.

Algoritmi za prepoznavanje mentalnih tegoba

Jedan od značajnih potencijala AI sistema leži u mogućnosti prepoznavanja znakova mentalnih tegoba kod korisnika. AI može analizirati obrasce ponašanja i identifikovati indikatore emocionalne uznemirenosti, kao što su učestale pretrage sadržaja povezanih sa tugom, izolacijom ili niskim samopouzdanjem. Kada se detektuju takvi obrasci, AI sistemi mogu ponuditi podršku, kao što su linkovi ka linijama za pomoć, besplatnim resursima za mentalno zdravlje ili sadržajima koji promovišu pozitivno razmišljanje.

Važno je da ove intervencije budu diskretne i prilagođene korisnicima, kako bi se izbeglo stigmatizovanje ili osećaj kontrole. AI treba da funkcioniše kao podrška, a ne kao sredstvo za kaznu ili osudu, pružajući mladima alate za samopomoć u trenutku kada im je to najpotrebnije.

Transparentnost i uloga roditelja

Transparentnost u načinu rada AI sistema je ključna za zaštitu mladih korisnika i izgradnju poverenja. Platforme koje koriste AI treba da jasno objasne kako njihovi algoritmi donose odluke, koje podatke prikupljaju i kako ti podaci utiču na preporuke. Roditelji bi trebalo da imaju pristup informacijama o tome kako AI funkcioniše i da budu uključeni u donošenje odluka o načinu na koji se tehnologija koristi.

Pored toga, platforme mogu obezbediti edukativne resurse za roditelje kako bi bolje razumeli potencijalne rizike i načine na koje mogu podržati svoju decu. Otvorena komunikacija između roditelja i dece o digitalnim platformama ključna je za uspostavljanje zdravog odnosa prema tehnologiji.

Zaključak

AI tehnologije imaju značajan potencijal za podršku mentalnom zdravlju mladih, ali samo ako su odgovorno dizajnirane i koriste se u skladu sa etičkim standardima. Kroz prepoznavanje i sprečavanje manipulativnih taktika, promociju pozitivnih sadržaja, postavljanje vremenskih ograničenja i transparentnu komunikaciju sa roditeljima, AI platforme mogu doprineti stvaranju sigurnijeg i podsticajnijeg digitalnog okruženja.

Ovakav pristup omogućava mladima ne samo da uživaju u prednostima tehnologije, već i da razviju zdrave navike i osećaj lične dobrobiti. AI time postaje alat koji ne samo da edukuje i zabavlja, već i podržava psihološko zdravlje.

Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator