Sa sve većom upotrebom veštačke inteligencije (AI) u svakodnevnim aplikacijama, pitanje etičkog razvoja i primene AI za maloletnike postaje izuzetno važno. Mladi i deca su danas izloženi velikom broju digitalnih platformi, uključujući igre, obrazovne aplikacije, društvene mreže i virtuelne asistente, koji koriste AI tehnologiju. Iako ovi sistemi mogu pružiti prednosti, poput personalizovanog učenja i interaktivnog obrazovanja, njihov razvoj mora biti usmeren na očuvanje prava maloletnika i zaštitu od manipulacije i eksploatacije. Etičke smernice koje se primenjuju u ovom kontekstu igraju ključnu ulogu u stvaranju sigurnog i odgovornog digitalnog okruženja za mlade.

Zaštita privatnosti i bezbednost podataka

Privatnost je jedno od najvažnijih prava maloletnika u digitalnom svetu. AI sistemi koji prikupljaju podatke o mladima moraju se pridržavati stroge zaštite privatnosti, kako bi se sprečila zloupotreba ili nenamerno otkrivanje osetljivih podataka. Ovi sistemi treba da budu dizajnirani tako da prikupljaju minimalnu količinu podataka, samo onoliko koliko je neophodno za njihovu funkcionalnost. Pored toga, svaki AI sistem namenjen maloletnicima mora omogućiti roditeljima ili starateljima uvid u podatke koji se prikupljaju i kontrolu nad njima, uz jasne opcije za brisanje ili anonimizaciju podataka ako je to potrebno.

Pored zaštite privatnosti, bezbednost podataka mora biti prioritet. AI sistemi moraju imati zaštitu od hakovanja i neovlašćenog pristupa, jer bi kompromitovani podaci mogli izložiti maloletnike riziku. Programeri i kompanije koje rade na AI aplikacijama za decu i mlade treba da osiguraju da njihovi sistemi budu u skladu sa najvišim standardima sajber bezbednosti i da redovno ažuriraju mere zaštite.

Izbegavanje manipulacije i zaštita od eksploatacije

Manipulacija i eksploatacija predstavljaju ozbiljnu opasnost kada su maloletnici u pitanju. Deca i mladi imaju manje razvijenu sposobnost da razlikuju istinite informacije od marketinških poruka i da razumeju posledice svojih odluka na digitalnim platformama. Zbog toga je važno da AI sistemi koji su namenjeni mladima budu dizajnirani tako da izbegnu tehnike manipulacije, kao što su podsticanje na kupovinu, preterano korišćenje ili izlaganje neprimerenom sadržaju.

AI aplikacije za maloletnike ne bi trebalo da koriste strategije koje izazivaju zavisnost, poput sistematičnog nagrađivanja i drugih taktika koje podstiču prekomerno korišćenje. Umesto toga, ovi sistemi bi trebalo da promovišu zdrave digitalne navike i da omoguće postavljanje vremenskih ograničenja za korišćenje aplikacija. Pored toga, svaki sadržaj ili preporuke koje AI sistemi pružaju treba da budu primerene uzrastu korisnika i bez sadržaja koji bi mogao da izazove strah, anksioznost ili nasilje.

Transparentnost i odgovornost

Transparentnost u AI sistemima za maloletnike je ključna, jer roditelji i staratelji treba da znaju kako tehnologija funkcioniše i na koji način utiče na njihovu decu. Važno je da kompanije koje kreiraju AI sisteme obezbede jasno objašnjenje o tome kako algoritmi donose odluke, kako se prikupljaju i koriste podaci, i kako se garantuje zaštita maloletnika. Transparentnost pruža roditeljima i starateljima mogućnost da razumeju i procene uticaj AI tehnologija koje njihova deca koriste.

Takođe, odgovornost u razvoju AI sistema za maloletnike znači da kompanije moraju preuzeti odgovornost za posledice upotrebe njihovih proizvoda. U slučaju da AI sistem nanese štetu ili negativno utiče na decu, kompanije moraju imati jasne procedure za otklanjanje tih problema i preduzimanje mera za poboljšanje sistema. Odgovornost podrazumeva i da su kompanije spremne da odgovore na zahteve roditelja i institucija za reviziju i izmenu tehnologija koje koriste mladi.

Promovisanje digitalne pismenosti kod maloletnika

Etički AI sistemi za maloletnike treba takođe da podstiču razvoj digitalne pismenosti kod mladih korisnika. To znači da aplikacije i platforme treba da edukuju mlade korisnike o načinu na koji AI funkcioniše, kako se koriste podaci i kakvi su rizici povezani sa tehnologijom. Podsticanje mladih da razumeju i razviju kritički stav prema AI tehnologijama pomaže im da budu odgovorniji i da donesu informisane odluke u digitalnom okruženju.

Na primer, obrazovne aplikacije mogu uključiti elemente obuke o zaštiti privatnosti i bezbednosti na internetu, kao i objašnjenja o tome kako se algoritmi prilagođavaju njihovim potrebama. Ovakvi pristupi podstiču maloletnike da postanu aktivni korisnici koji razumeju tehnologiju koju koriste, umesto pasivnih korisnika koji su podložni manipulaciji.

Zaključak

Etičke smernice za razvoj AI sistema za maloletnike su neophodne za obezbeđivanje sigurnosti, privatnosti i odgovornog korišćenja tehnologije među mladima. Zaštita privatnosti, izbegavanje manipulacije, transparentnost i promovisanje digitalne pismenosti predstavljaju ključne principe koji osiguravaju da AI aplikacije odgovaraju potrebama i pravima maloletnika.

Nastaviće se…
Milena Šović, M.Sc.,CSM
Prompt Engineer & AI Educator