Indignatie redactie 
Roblox De jongere generaties, met name de alfageneraties – geboren tussen 2010 en 2024-2025 – socialiseren anders. Interactieve videogames zijn essentieel voor de relaties van deze digitale generaties . Een van de meest interactieve platforms voor deze jongeren is Roblox.
Roblox In deze metaverse is ongeveer 60% van de gebruikers tussen de 9 en 16 jaar oud . En met meer dan 80 miljoen gebruikers wereldwijd , alleen al in Spanje, is het de favoriete digitale omgeving voor kinderen tussen de 4 en 15 jaar . Dit maakt het een omgeving die bijzonder kwetsbaar is voor pesten en kindermishandeling. Kan kunstmatige intelligentie, in een tijd die van groot belang is voor multiplayerplatforms, zorgen voor gezonde interacties tussen gebruikers?
Wat is Roblox en welke problemen brengt het met zich mee?
Roblox is een multiplayerplatform waar gebruikers objecten, gebouwen, scenario’s, personages en meer kunnen creëren. Van parkour tot dungeons, Roblox biedt eindeloze recreatiemogelijkheden, verrijkt door peer-to-peer interacties. Dit platform is de laatste tijd echter vaker in het nieuws geweest vanwege de onderliggende gevaren dan vanwege de potentiële waarde ervan voor het bevorderen van diversiteit en creativiteit.
Roblox is een online ecosysteem waar gebruikers vrijelijk ervaringen kunnen creëren in de vorm van minigames. Maar de tools bieden ook de mogelijkheid om onveilige omgevingen te creëren. Zonder goede regelgeving kunnen minderjarigen ongepaste content consumeren.
Het omvat bijvoorbeeld condo -games , waarbij seksuele content expliciet wordt gemaakt door naakte avatars te tonen of seks te simuleren. Condo-games omzeilen de controlesystemen van het platform doordat ze worden verspreid via andere platforms zoals Discord of TikTok. Bovendien suggereren ze vaak dat je kleine huizen (appartementen) met kamers en zwembaden moet betreden waar zeer seksuele content verborgen zit .
Appartementen: de donkere kant
Het probleem met appartementencomplexen is dat ze plekken kunnen zijn waar zedendelinquenten het op minderjarigen gemunt hebben. Onlangs werd YouTuber Schelp – die eerder slachtoffer was van intimidatie op het platform – geblokkeerd op Roblox, ondanks zijn strijd tegen zedendelinquenten op het platform.
Volgens Roblox heeft Schelp het privacybeleid geschonden door zich voor te doen als minderjarige en de vermeende roofdieren uit te nodigen voor andere platforms. Dit stelde hem in staat om seksueel expliciete gesprekken met hen te voeren, waardoor ze kwetsbaar werden. Het is precies dezelfde interactiestrategie die ze op Roblox gebruiken.
Het fenomeen van grooming
Overal waar jongeren worden blootgesteld aan een ogenschijnlijk gebrek aan controle, kunnen risico’s van grooming of online intimidatie door pedofielen ontstaan. Grooming houdt in dat een volwassene met een minderjarige omgaat en zijn of haar vertrouwen wint. Vervolgens vraagt de minderjarige om seksuele afbeeldingen, video’s of interacties die kunnen leiden tot fysieke ontmoetingen.
Hoewel het een geïsoleerd fenomeen lijkt, komt het vaker voor dan je zou denken. Internationale gegevens laten zien dat groomers doorgaans sociaal vaardig zijn, tussen de 28 en 35 jaar oud. De psychologische impact van grooming op de slachtoffers maakt het een van de grootste risico’s waarmee platforms te maken krijgen.
Ouderlijk toezicht en kunstmatige intelligentie
De meeste games zoals Roblox hebben ouderlijk toezicht waarmee je chatten met vreemden kunt beperken. Maar dit betekent niet dat het risico 100% kan worden geëlimineerd. Het bedrijf dat eigenaar is van het platform vindt echter een manier om zijn verantwoordelijkheid te ontlopen in deze formules. Het is waar dat je veilig van de game kunt genieten als de aanbevelingen voor cyberbeveiliging worden gevolgd . Nog belangrijker is de digitale geletterdheid van minderjarigen en hun ouders en opvoeders, zodat ze kunnen leren de risico’s van grooming te herkennen en ermee om te gaan .
Een andere tool die nuttig zou kunnen zijn, is kunstmatige intelligentie (AI) als bondgenoot in de strijd tegen grooming . Er bestaan al toepassingen met taalverwerking en deep learning-modellen die haatzaaiende uitlatingen op sociale netwerken en andere digitale omgevingen zoals de media identificeren. In dit opzicht vallen het HATEMEDIA- project van de Internationale Universiteit van La Rioja en het werk van de SINAI-groep van de Universiteit van Jaén, die zich specifiek richt op aanstootgevende uitingen in X, op .
Vigilante-bots
Aan de andere kant suggereert de vooruitgang in de integratie van machine learning-modellen in gameomgevingen dat NPC’s – virtuele personages aangestuurd door kunstmatige intelligentie – gebruikt kunnen worden om ongepaste praktijken te identificeren. Dit gebeurt al in Alien: Isolation , waar het Xenomorph-personage “leert” van het gedrag van de speler .
Meta kondigde op zijn beurt aan dat het zijn AI-model, Llama, zal integreren in NPC’s in zijn metaverse, Horizon Worlds. En NVIDIA werkt aan een soortgelijke ontwikkeling gebaseerd op het concept van ‘Neo-NPC’s’ . Dit zal ons nieuwe vragen doen stellen: hoe maken we onderscheid tussen een avatar die een AI of een menselijke gebruiker is? Welke mate van vrije wil zullen deze generatieve bots hebben bij hun integratie met virtuele avatars? Kan AI, geïntegreerd in bots en NPC’s, een bondgenoot zijn in het bestrijden van intimidatie in de digitale wereld?
Ondertussen voorspelt voormalig Google-directeur Mo Gawdat dat we een dystopische periode ingaan die tot 2027 zal duren. Wanneer AI de volledige controle over het internet overneemt, zullen de bedrijven die deze platforms ontwikkelen, zich meer moeten inzetten en meer verantwoordelijkheid moeten nemen.
