Roblox, jedna od najpopularnijih platformi za online igranje, nedavno se ponovo našao na udaru kritika zbog pojave neprimerenog sadržaja, uključujući govor mržnje, u igri Spray Paint. Iako je platforma poznata po kreativnosti i zabavi za milione korisnika, naročito dece i tinejdžera, ovaj incident ukazuje na stalne izazove u moderaciji sadržaja.
Šta se desilo?
Igrači su otkrili da je moguće zaobići Roblox-ov sistem za filtriranje teksta koristeći simbole poput !, ? i . unutar rečenica. Na taj način su uspeli da pišu poruke mržnje, rasističke slogane i druge nedozvoljene sadržaje. Ovo je izazvalo zabrinutost u zajednici, posebno kod roditelja, jer je platforma namenjena mlađoj publici. Problem je dodatno istaknut na društvenim mrežama, gde su se pojavili snimci i slike ekrana sa uvredljivim grafitima.
Reakcija Roblox-a
Roblox je brzo reagovao na prijave. Portparol kompanije je izjavio da su svesni problema i da aktivno rade na rešavanju. Iako nisu direktno komentarisali specifičan sadržaj, istakli su da je tolerancija nula za govor mržnje i nasilje. Timovi za bezbednost i poverenje su pokrenuli istragu i preduzeli mere, što uključuje trajno uklanjanje uvredljivih slika i banovanje korisnika koji su širili takav sadržaj. Takođe su naglasili da redovno rade na poboljšanju svojih sistema za detekciju i moderaciju kako bi sprečili slične incidente u budućnosti.
Zašto je moderacija u Roblox-u tako izazovna?
Moderacija u Roblox-u je izuzetno kompleksna zbog nekoliko faktora:
- Ogroman obim sadržaja: Milioni korisnika svakodnevno kreiraju i dele različite igre i objekte, što čini ručnu proveru gotovo nemogućom.
- Kreativnost korisnika: Iako je dobra, ova ista kreativnost omogućava korisnicima da pronađu nove načine za zaobilaženje sistema za filtriranje. Na primer, umesto da koriste eksplicitne reči, koriste simbole, brojeve ili sleng, čineći automatsku detekciju težom.
- Različiti formati: Sadržaj nije samo tekst, već i slike, zvukovi i 3D modeli, što zahteva različite alate i tehnike za moderaciju.
Budućnost moderacije: Šta nas čeka?
Iako je Roblox već uložio značajna sredstva u veštačku inteligenciju i mašinsko učenje kako bi unapredio moderaciju, očigledno je da će borba protiv nedozvoljenog sadržaja biti stalna. Kompanija će morati da nastavi da ulaže u naprednije algoritme koji prepoznaju kontekstualne nijanse i namere korisnika, a ne samo eksplicitne reči.
Ovaj incident podvlači važnost edukacije korisnika o odgovornom ponašanju na internetu. Platforme poput Roblox-a imaju veliku odgovornost, ali i korisnici, a naročito roditelji, moraju biti svesni potencijalnih rizika i naučiti decu kako da ih prepoznaju i prijave.
