Extremisten sluipen Roblox binnen, een online game populair bij kinderen

Men kon meer dan 100 accounts vinden met extremistische en racistische inhoud

SAN FRANCISCO – Het is een bijna onvermijdelijk probleem op internet geworden: als je het bouwt, zullen ze trollen.

Dat wil zeggen, als een bedrijf een succesvol gaming- of social-mediaplatform bouwt, zullen trolls, extremisten en andere gebruikers die schadelijke spraak uitspreken een weg vinden naar die online locaties.

Deze week, een Twitter-gebruiker met de naam @lululemew begonnen aan neo-nazi referenties op Roblox, een populaire online spel dat meer dan beschikt vinden 100 miljoen actieve gebruikers over de hele wereld en is populair bij kinderen. Hoewel dergelijke verontrustende gebruikersnamen, profielen en inhoud in Roblox niet nieuw zijn, kregen ze hernieuwde aandacht van de tweets van deze vrouw.

“Mijn kind speelt Roblox,” schreef ze in een poging het bedrijf te waarschuwen. “Wist je dat je leden op je site hebt die #WhitePowerExtremist #DomesticTerrorism- groepen promoten?”

Roblox, net als Minecraft, stelt gebruikers in staat om avatars en virtuele werelden te creëren waarin die personages rondzwerven. Hoewel de meeste mensen het platform van de game gebruiken om leuke, onschadelijke personages te maken, hebben sommigen het gebruikt om hatelijke berichten te verspreiden. De game is weer een nieuwe grens geworden in de voortdurende strijd om contentmoderatie en passende spraakregels op privéplatforms die nu vaak ruimtes zijn waar mensen samenkomen.

Jarenlang hebben YouTube , Reddit , Instagram , Facebook en vele andere sites en diensten te kampen met soortgelijke problemen. “Er zijn zoveel kinderen die dat spel spelen, en het bedrijf moet voorzichtiger zijn en zich bewust zijn van de inhoud die op hun site staat,” zei de vrouw, die vroeg om haar naam te onthouden uit angst voor intimidatie in de echte wereld, in een telefonisch interview met NBC News.

NBC News vond en identificeerde snel vier hatelijke profielaccounts, waarvan er één duidelijke antisemitische taal bevatte. Een ander toonde een model van een nazi-tijdperk uniform, en twee anderen waren Proud Boys-gerelateerde profielen en bevatten een avatar van de oprichter, Gavin McInnes. De Proud Boys-organisatie is door het Southern Poverty Law Centre geïdentificeerd als een haatgroep.

Nadat hij op de hoogte was gebracht van het bestaan ​​van die vier accounts, verwijderde Roblox ze onmiddellijk binnen enkele uren. NBC News kon echter, samen met de hulp van een andere Twitter-gebruiker , meer dan 100 accounts vinden met extremistische en racistische inhoud, waaronder reeds lang gecodeerde neonazistische taal, zinnen als “Joden naar gas!” En gebruikersnamen waaronder “WhiteRaceBestRace .”

Roblox verwijderde die accounts ook nadat ze door NBC News aan het bedrijf waren gemarkeerd.

“We streven ernaar alles te doen wat we kunnen om gedrag dat onze Servicevoorwaarden schendt, te voorkomen en te detecteren en hebben onmiddellijk actie ondernomen om deze groepen te verwijderen,” zei het bedrijf in een verklaring per e-mail van Teresa Brewer , de vice-president van communicatie.

De uitdaging ligt ook in het handhaven van de vrijwel constante waakzaamheid die nu nodig is om extremisten van platforms af te houden. Er zijn al eerder extremisten gevonden op Roblox , waardoor het bedrijf zijn eigen personeel moest ontwikkelen om zijn virtuele wereld te modereren. Grote technische platforms gebruiken nu routinematig duizenden moderators om te controleren wat er wordt gepost.

Het bedrijf zei dat de Proud Boys-pagina’s voornamelijk werden gebruikt om mensen naar een gerelateerd kanaal op Discord te verwijzen, een voicechatplatform dat populair is bij gamers en ook extremisten .

“We hebben meer dan 800 menselijke moderators in dienst die miljoenen stukjes content per maand beoordelen, gebruiken geautomatiseerde machine learning-technologie om de communicatie tussen spelers te monitoren en spelers in onze community en ouders te machtigen met functies om slecht gedrag of inhoud te melden,” verklaart de verklaring voortgezet.

Experts die extremisme bestuderen, vinden het vooral verontrustend dat gamingplatforms die populair zijn bij kinderen nu op nieuwe manieren kwetsbaar zijn voor schadelijke ideeën.

“We beginnen nu pas de manieren te begrijpen waarop betrokkenheid bij haatzaaien individuen radicaliseert,” zei Tamar Mitts , een professor die online extremisme studeert aan de School of International Public Affairs aan de Columbia University, in een e-mail.

“Het risico van radicalisering kan groter zijn voor kinderen, die niet over de middelen beschikken om onderscheid te maken tussen nauwkeurige of misleidende informatie.”

Brian Levin , het hoofd van het Center for the Study of Hate and Extremism aan de California State University, San Bernardino, zei dat extremisten al jaren proberen videogames te gebruiken als middel om hun boodschap te verspreiden.

Hij wees op een videogame uit 2002 met de naam ‘ Ethnic Cleansing‘, een schietspel waarbij de speler de rol op zich neemt van een skinhead op zoek naar minderheidsdoelen.

“In het verleden had je niet het soort interactiviteit dat je hebt met de nu genetwerkte gamingcultuur,” zei hij. “Dus voorheen had je bijvoorbeeld deze verschillende, maar gefragmenteerde plaatsen waar mensen naartoe konden. Nu komt het naar jou toe. ‘

De kwestie van online extremisme is onlangs het onderwerp geworden van internationale actie na een serie massale schietpartijen die verband hielden met op internet gebaseerde radicalisering.

Jason Blazakis , een professor aan het Middlebury Institute of International Studies, die tien jaar als topfunctionaris voor terrorismebestrijding aan het Staatsdepartement heeft gediend, onderstreepte dat de taal die door extremisten wordt gesproken, kan worden gebruikt om nieuwe aanhangers te lokken.

“Mijn grootste zorg met platforms zoals Roblox is dat het kan worden gebruikt voor de werving van een jongere generatie die mogelijk vatbaar is voor de memes, in-groep taal en jargon die worden verspreid door groepen zoals, maar niet beperkt tot, de Trotse Jongens, ‘E-mailde hij.

“Helaas is het als een spelletje Whack-a-Mole en ze moeten vertrouwen op de due diligence van de gamers om problematisch materiaal, gebruikers en groepen te markeren.”

Blazakis zei dat hij en zijn vier jonge neven, die regelmatig Roblox spelen, zijn eigen instructies ter harte namen nadat ze gecontacteerd waren door NBC News. Ze logden in en markeerden wat in-game content.

“Dit spreekt de beste manier om misbruik van gamingplatforms tegen te gaan – de waakzaamheid van de gebruikers zelf”, concludeerde hij. “Er zullen oplossingen uit het maatschappelijk middenveld nodig zijn om ervoor te zorgen dat de speelruimte veilig is, vrij van haat en niet wordt gebruikt voor verder terrorisme.”