De veiligheid van Roblox onder de loep wordt genomen, hoe bezorgd moeten ouders zijn?

Roblox – Miljoenen kinderen spelen op dit platform, ervan beschuldigd dat het veel verontrustende content en gebruikers heeft, maar er zijn honderden betere alternatieven die de nieuwsgierige geest van kinderen bedienen

Roblox – Vlak voordat de nieuwsbrief van vorige week uitging, publiceerde een short-selling bedrijf genaamd Hindenburg Research een uiterst kritisch rapport over Roblox . Daarin beschuldigden ze het beursgenoteerde bedrijf ervan zijn statistieken (en daarmee zijn waardering) op te blazen en, wat nog zorgwekkender is voor de ouders van de miljoenen kinderen die Roblox gebruiken, noemden ze het ook een “pedofiele hel”.

Het rapport beweert dat er een aantal huiveringwekkende ontdekkingen in het spel zijn gedaan. De onderzoekers vonden chatrooms van mensen die beweerden afbeeldingen en video’s van kinderen te verhandelen, en gebruikers die beweerden kinderen en tieners te zijn die dergelijk materiaal aanboden in ruil voor Robux, de in-game valuta. Roblox verwerpt de beweringen die Hindenburg in zijn rapport deed ten stelligste.

Roblox, voor degenen die de titel niet kennen, is niet zozeer een game als wel een platform (of, zoals de communicatiemedewerkers van het bedrijf u willen laten denken, een metaverse). Het beweert 80 miljoen dagelijkse gebruikers te hebben (een getal dat volgens Hindenburg overdreven is).

U logt in, past uw avatar aan en vanaf daar kunt u in duizenden verschillende “ervaringen” springen die door andere gebruikers zijn gemaakt – van rollenspellen in steden tot minigames met pizzabezorging tot politie- en boevenspellen tot, helaas, veel minder smakelijke dingen zoals Public Bathroom Simulator (die de maker zei te hebben gemaakt toen ze 12 waren “voordat ik me ervan bewust was dat er überhaupt slechte mensen bestonden”).

Omdat games op Roblox door spelers worden gemaakt, moet de site constant worden gemodereerd. Het moderatieteam van het bedrijf heeft elke dag te maken met een tsunami aan content.

Het is belangrijk om te erkennen dat Hindenburg een persoonlijk belang heeft bij de koersdaling van Roblox: het heeft een shortpositie in het bedrijf ingenomen (wat betekent dat het winst maakt als de aandelenwaarde daalt). Verschillende andere bedrijven zagen hun aandelen kelderen nadat het rapporten over hen publiceerde . Maar het is ook mogelijk om een ​​aantal van de beweringen in het rapport onafhankelijk te verifiëren.

Een heel eenvoudige zoekopdracht op het platform onthult dat deze in-game chatgroepen die blijkbaar afbeeldingen vragen en verhandelen, bestaan ​​en actief zijn; en dat de accounts met verontrustende gebruikersnamen die verwijzen naar kindermisbruik en Jeffrey Epstein echt zijn. Sommige van de specifieke games en accounts waarnaar vorige week in Hindenburgs rapport werd verwezen, zijn door het bedrijf verwijderd.

Ter verdediging zei Roblox in een online geplaatste verklaring: “Elke dag hebben tientallen miljoenen gebruikers van alle leeftijden veilige en positieve ervaringen op Roblox en houden ze zich aan de community-normen van het bedrijf. Elk veiligheidsincident is echter verschrikkelijk.

We nemen alle content of gedrag op het platform dat niet aan onze normen voldoet, uiterst serieus.” Het bedrijf voegde toe: “We ontwikkelen en verbeteren onze veiligheidsaanpak voortdurend om kwaadaardige of schadelijke activiteiten op te sporen en te voorkomen. Dit omvat tekstchatfilters om ongepaste woorden en zinnen te blokkeren en het niet toestaan ​​van het delen van afbeeldingen tussen gebruikers op Roblox”.

Dit is natuurlijk niet het eerste opruiende rapport over Roblox .

In de afgelopen paar jaar hebben verhalen van CNN, de Observer, Wired en vele andere publicaties stapels ongepaste content op het platform gevonden, en er zijn ook verschillende bewezen gevallen van kindermisbruikers die Roblox gebruiken om slachtoffers te manipuleren. Afgelopen juli beschreef Bloomberg een dergelijk geval, waarin een man werd veroordeeld tot 15 jaar gevangenisstraf nadat hij een minderjarige had gemanipuleerd en haar over de staatsgrenzen had laten vervoeren voor seks, als onderdeel van een veel breder onderzoek naar de duidelijke tekortkomingen van het platform als het gaat om moderatie en veiligheid van kinderen.

Veel ouders zullen zich afvragen wat ze moeten doen. Zelfs als het aantal van bijna 80 miljoen dagelijkse gebruikers overdreven is, zoals Hindenberg beweert, is Roblox een onderdeel van het dagelijkse online leven van miljoenen kinderen. Iedereen met schoolgaande kinderen weet dat het heel veel wordt gebruikt. Is Roblox gevaarlijk voor kinderen? Moet je ze onmiddellijk verbieden om te spelen?

Ondanks alles wat in dit Hindenburg-rapport en andere rapporten van de afgelopen jaren is gepresenteerd, geloof ik dat het voor kinderen volkomen mogelijk is om Roblox veilig te spelen. Het heeft behoorlijke ouderlijk toezicht dat de mate waarin vreemden contact kunnen opnemen met uw kind beperkt of elimineert – als het correct wordt gebruikt. Als ik een kind had dat Roblox speelde, zou ik al die instellingen controleren en dubbel controleren, en ervoor zorgen dat de functie “vriendenlijst” is ingesteld om alleen echte vrienden op te nemen.

Ik zou ook uiterst terughoudend zijn om jongere kinderen dit spel zonder toezicht te laten spelen, om de kans te minimaliseren dat kinderen de vele ongepaste spellen tegenkomen – of er zelfs naar op zoek gaan – die regelmatig lijken te ontsnappen aan de moderatie-inspanningen van Roblox.

Basis online veiligheidsvoorlichting is ontzettend belangrijk voor elk kind dat het internet gebruikt. Gezien de vele veroordelingen van kindermisbruikers die Roblox hebben gebruikt om kinderen te benaderen, is de aanwezigheid van pedofielen op dit platform onmogelijk te ontkennen, maar de omvang ervan is moeilijk objectief te beoordelen. Sommige dingen die Hindenburg in zijn rapport benadrukt, lijken mij eerder het product van adolescente edgelords dan van echte kindermisbruikers.

Roblox heeft een enorme populatie tieners die zijn opgegroeid met het spel; als ik 900 variaties op de gebruikersnaam Jeffrey Epstein zie, zie ik niet per se 900 actieve kindermisbruikers, maar in plaats daarvan 900 idiote 14-jarigen die grappig proberen te zijn.

Volledige openheid: ik heb mijn kinderen Roblox niet laten spelen en ik ben ook niet van plan om ermee te beginnen. Ik geloof niet dat je een beursgenoteerd bedrijf kunt vertrouwen om de belangen en veiligheid van kinderen boven winst te stellen. Moderatie is duur en moeilijk en niemand in de grote technologiesector is er in de buurt gekomen om een ​​systeem te creëren dat voorkomt dat schadelijk materiaal op dit soort open platforms verschijnt, of dat voorkomt dat mensen ze misbruiken voor hun eigen doeleinden.

Los van terechte zorgen over de veiligheid, zijn er gewoon honderden betere games die beter aansluiten bij de verbeelding en nieuwsgierige geest van kinderen, in plaats van te proberen geld van ze af te troggelen om eindeloze in-game cosmetica en “ervaringen” te betalen.

Alleen offline games nemen dit risico volledig weg dat kinderen in contact komen met ongepaste content. Eén ding is overduidelijk na zelfs een paar vluchtige uren verkennen van Roblox: het is niet moeilijk om dingen te vinden die buitengewoon verontrustend zijn.

Roblox: Opgeblazen kerncijfers voor Wall Street en een pedofiele hel voor kinderen

• Roblox is een online gamingplatform van $27 miljard met het hoofdkantoor in San Mateo, CA. Het bedrijf werd opgericht in 2004 en wordt geleid door oprichter en CEO David Baszucki.
• Het bedrijf heeft elk kwartaal nettoverliezen gerapporteerd sinds het een beursgenoteerd bedrijf werd, met verliezen van de afgelopen twaalf maanden (LTM) van in totaal $ 1,07 miljard. De aandelen worden verhandeld tegen 8,6x de omzet, een premie van 57% ten opzichte van gaming-peers, waarbij de verwachtingen van snelle toekomstige groei en winstgevendheid zijn ingeprijsd.
• Insiders hebben $ 1,7 miljard aan aandelen verzilverd sinds de directe beursnotering van het bedrijf in 2021. In de afgelopen 12 maanden hebben insiders ~ $ 150 miljoen aan aandelen verkocht, waaronder ~ $ 115 miljoen door CEO Baszucki persoonlijk.
• Omdat Roblox niet winstgevend is, is de aandelenkoers (en daarmee het vermogen van insiders om honderden miljoenen dollars aan aandelen te verkopen) afhankelijk van de groeicijfers die het bedrijf aan Wall Street presenteert.
• Uit ons onderzoek blijkt dat Roblox tegen investeerders, toezichthouders en adverteerders liegt over het aantal ‘mensen’ op zijn platform, waardoor de belangrijkste metriek met 25-42%+ wordt opgeblazen. We laten ook zien hoe engagement hours, een andere belangrijke metriek, naar schatting met 100%+ wordt opgeblazen.
• Sinds vóór de beursgang heeft Roblox het aantal “mensen” op zijn platform gerapporteerd in tientallen officiële investeerderscommunicaties. Onder de vele voorbeelden schreef Roblox in een kwartaalrapport van 2022: “er komen elke dag meer dan 54,1 miljoen mensen naar Roblox”.
• Uit onze bevindingen blijkt dat het door het bedrijf gerapporteerde aantal ‘mensen’ regelmatig overeenkomt met het door Roblox gerapporteerde aantal dagelijkse actieve gebruikers (DAU’s).
• Maar DAU’s zijn, volgens Roblox’ eigen onthullingen, “geen maatstaf voor unieke individuen die toegang hebben tot Roblox”, omdat ze meerdere accounts kunnen omvatten die door één persoon worden beheerd, zoals alternatieve of bot-accounts.
• Gegeven deze definities zijn wij van mening dat Roblox opzettelijk “mensen” verwart met DAU’s, waardoor het gerapporteerde aantal mensen op het platform consequent wordt opgeblazen.
• In 2023 vertelde Roblox aan de SEC dat het “niet kan identificeren of een gebruiker meerdere accounts heeft”. De reactie van het bedrijf aan de SEC lijkt een regelrechte leugen te zijn.
• Meerdere oud-werknemers vertelden ons dat Roblox intern individuele gebruikers met meerdere accounts volgt. Ze noemen dit proces ‘de-alting’.
• Uit interviews blijkt dat Roblox feitelijk twee soorten boeken gebruikt om gebruikers te tellen: één voor interne bedrijfsbeslissingen, waarbij meerdere accounts worden ‘gede-alted’, en één die wordt gebruikt door het financiële team dat hogere statistieken aan investeerders rapporteert.
• “Als dat aantal [DAU’s] niet wordt bijgewerkt, denk ik dat het werkelijke aantal ergens tussen de 30 en 20 procent lager zal liggen”, vertelde een voormalig datawetenschapper ons.
• Roblox-forums beschrijven hoe gebruikers regelmatig tientallen alternatieve accounts hebben om goederen op Roblox te ‘farmen’, bans te voorkomen en hun aantal volgers te vergroten, naast andere redenen.
• Naast alternatieve accounts zijn bots alomtegenwoordig op het platform. Zo heeft Roblox’ 7e ^populairste game, Adopt Me!, meer dan 83.000 handtekeningen verzameld op Change.org om het van het platform te verwijderen vanwege uitgebreide “botting” die Roblox “breekt”.
• ^{De op één na} meest bezochte game van Roblox , Blox Fruits, werd gedomineerd door verkeer uit Vietnam, waar we talloze Facebook-groepen aantroffen, waaronder 5 met elk 50.000 tot 117.000 leden. Deze groepen adverteerden en wierven tools om meer dan 20 Roblox-bottabbladen tegelijk te runnen.
• Een voormalig datawetenschapper vertelde ons dat de activiteit in Vietnam “veel van onze cijfers heeft opgeblazen. Als een gek, krankzinnig, in termen van betrokkenheid, DAU[s]”.
• Naast het opblazen van het gerapporteerde aantal “mensen” op zijn platform, vermoeden we ook dat Roblox een tweede belangrijke metriek, “engagement hours”, enorm opblaast. Het bedrijf rapporteerde een buitengewone 2,4 gemiddelde uren aan engagement per dag per gebruiker in 2023.
• Volgens een onderzoek uit 2021 ligt dit niveau van betrokkenheid 58% hoger dan de gemiddelde tijd die Amerikaanse 8- tot 12-jarigen besteden aan het spelen van mobiele games (inclusief tablets), en 26%-166% meer tijd dan op toonaangevende socialemediaplatforms zoals YouTube, TikTok en Instagram.
• Om de gerapporteerde betrokkenheid van het bedrijf beter te begrijpen, hebben we een technisch adviseur ingehuurd die de top 7.200 Roblox-games op 2,1 miljoen Roblox-servers in de gaten hield en 297,7 miljoen rijen met realtime spelergegevens verzamelde.
• Uit de gegevens blijkt dat Roblox de werkelijke mate van gebruikersbetrokkenheid op zijn platform mogelijk schromelijk overdrijft: uit ons onderzoek naar gemiddeld 30,4 miljoen unieke dagelijkse gebruikers bleek dat zij slechts ~22 minuten per dag aan games besteedden.
• Verdere analyse van speeltijden toonde talrijke games waarin bot-accounts duidelijk langer dan 24 uur achter elkaar in de game bleven. Onze representatieve steekproef markeerde miljoenen ‘zombie’-betrokkenheidsuren die de gerapporteerde ‘gemiddelde’ betrokkenheid van Roblox aanzienlijk kunnen beïnvloeden.
• Roblox stimuleert ontwikkelaars om ‘AFK’-games (Away From Keyboard) te maken die de betrokkenheid kunstmatig vergroten door de betaling van ontwikkelaars deels aan betrokkenheid te koppelen. Webforums beschrijven ontwikkelaarsstrategieën voor het maken van functies die bots en zombie-betrokkenheid aanmoedigen.
• Wij zijn van mening dat Roblox de geschatte de-alted en de-botted statistieken kan en moet rapporteren, zodat investeerders, adverteerders en toezichthouders beter geïnformeerd kunnen worden over het werkelijke aantal ‘mensen’ op het platform en hun werkelijke mate van betrokkenheid.
• Naast de opgeblazen belangrijkste gebruikersstatistieken, onthulde ons in-game onderzoek een hel voor pedofielen met een X-rating, waarin kinderen worden blootgesteld aan grooming, pornografie, gewelddadige content en extreem beledigende taal.
• Roblox brengt de veiligheid van kinderen in gevaar om groei te kunnen rapporteren aan investeerders, zo blijkt uit ons interview met een voormalig senior productontwerper: “Als je de betrokkenheid van gebruikers beperkt, schaadt dat je statistieken… in veel gevallen wil het management dat niet.”
• Om de winstgevendheid te vergroten, rapporteerde Roblox voor het tweede kwartaal van 2024 een daling van 2% op jaarbasis in de kosten voor vertrouwen en veiligheid.
• Het kernprobleem is dat de sociale mediafuncties van Roblox het voor pedofielen mogelijk maken om honderden kinderen op een efficiënte manier te targeten, zonder dat er vooraf een screening plaatsvindt om te voorkomen dat ze zich bij het platform aansluiten.
• Zo werd in 2018, voordat Roblox naar de beurs ging, een 29-jarige door de politie betrapt met 175 uur aan videobeelden waarop te zien was hoe hij 150 minderjarigen op een onlineplatform, waaronder Roblox, aan het manipuleren was en expliciete handelingen verrichtte.
• Media en non-profit exposés van 2020 tot juli 2024 onthulden digitale stripclubs, rosse buurten, seksfeesten en kindermisbruikers die op Roblox rondwaren. Het National Center on Sexual Exploitation noemde Roblox in 2024 “een hulpmiddel voor seksuele roofdieren, een bedreiging voor de veiligheid van kinderen”.
• In talloze aanklachten uit de periode 2019-2024 wordt beweerd dat seksuele roofdieren kinderen in de leeftijd van 8 tot 14 jaar in de game hebben gemanipuleerd, ontvoerd, verkracht of seksuele content met hen hebben uitgewisseld.
• Na jaren van schandalen hebben we zelf controles uitgevoerd om te zien of het platform zijn zaken op orde had. Als test probeerden we een account aan te maken onder de naam ‘Jeffrey Epstein’… alleen om te zien dat de naam al in gebruik was, samen met 900+ variaties.
• Veel van deze accounts waren fanaccounts van Jeffrey Epstein, waaronder “JeffEpsteinSupporter”, die meerdere badges had verdiend voor het besteden van tijd aan kinderspellen. Andere accounts van Jeff Epstein hadden de gebruikersnamen “@igruum_minors” [ik verleid minderjarigen] en “@RavpeTinyK1dsJE” [verkracht kleine kinderen].
• We probeerden een Roblox-account aan te maken onder de naam van een andere beruchte pedofiel om te kijken of Roblox een voorafgaande screening op pedofilie had: Earl Brian Bradley werd aangeklaagd voor 471 aanklachten van het molesteren, verkrachten en uitbuiten van 103 kinderen. De gebruikersnaam was in gebruik, samen met meerdere varianten zoals earlbrianbradley69.
• Nadat we een gebruikersnaam hadden gevonden, gaven we onze leeftijd op als “onder de 13” om te zien of kinderen werden blootgesteld aan inhoud voor volwassenen. Door simpelweg ‘volwassen’ in te vullen in de zoekbalk van Roblox, vonden we een groep genaamd “Adult Studios” met 3.334 leden die openlijk kinderporno verhandelden en seksuele handelingen van minderjarigen vroegen.
• We volgden een aantal leden van “Adult Studios” en vonden gemakkelijk 38 Roblox-groepen – één met 103.000 leden – die openlijk seksuele gunsten vroegen en kinderporno verhandelden.
• De chatrooms die kinderporno verhandelen, hadden geen leeftijdsbeperkingen. Roblox meldt dat 21% van de gebruikers jonger is dan 9 jaar, een aantal dat waarschijnlijk wordt onderschat aangezien Roblox geen leeftijdsverificatie heeft, afgezien van gebruikers die op zoek zijn naar ervaringen van 17+.
• Toen we als kind waren geregistreerd, konden we ook toegang krijgen tot spellen als “Escape to Epstein Island” en “Diddy Party”. We vonden meer dan 600 “Diddy” spellen, waaronder “Survive Diddy” en “Run From Diddy Simulator”.
• Sinds 2 september 2024 heeft de externe monitor ‘Moderation For Dummies’ ~12.400 erotische roleplay-accounts op Roblox gerapporteerd. Deze omvatten alles van “verkrachtings-/dwangmatige seksfetisjen” tot minderjarige gebruikers “die alles willen doen voor Robux”.
• Gebruikers die op zoek zijn naar seksuele ervaringen op Roblox zijn zo wijdverbreid dat er duizenden Roblox-seksvideo’s op pornosites staan, die gebruikers van onbekende leeftijd uitnodigen om expliciete inhoud op het platform te plaatsen.
• We testten de ervaringen van Roblox om te zien waaraan kinderen nog meer werden blootgesteld. We kwamen al snel afbeeldingen van mannelijke geslachtsdelen en haatdragende taal tegen in de “schoolsimulator”-game van Roblox, die 28,9 miljoen bezoeken had geregistreerd zonder leeftijdsbeperkingen.
• Ondanks de missie van het bedrijf om “een miljard gebruikers te verbinden met optimisme en beleefdheid”, vonden we games zoals “Beat Up Homeless Outside 7/11 Simulator”, die 1 miljoen keer bezocht en 15.000 keer als favoriet was gemarkeerd voordat het van Roblox werd verwijderd.
• Niettemin kunnen Roblox-gebruikers die zichzelf identificeren als 9 jaar en ouder nog steeds daklozen in elkaar slaan in “Beat Up People Outside of 7/11” met meer dan 900.000 bezoeken.
• In het spel “Beat Up The Pregnant” hakten gebruikers zwangere vrouwen dood op een parkeerplaats van een Wal-Mart met kapmessen of vermoordden ze hen met koekenpannen of een selectie wapens.
• We speelden “[GUNS] Work at a Hospital” waarin gebruikers een ziekenhuisschietpartij kunnen uitvoeren. De game heeft ~1,6 miljoen bezoekers en blijft op het platform staan ​​zonder leeftijdsbeperkingen. De miniatuur van de game is een foto van een doodsbange zwangere vrouw.
• “LGBTQ+ Vibes” is een spel dat beschikbaar is voor alle leeftijden en dat meer dan 40,6 miljoen keer is bezocht en meer dan 224.000 favorieten heeft. Gebruikers beschreven regelmatig ontuchtige seksuele handelingen, terwijl anderen hatelijke beledigingen gebruikten.
• “Palestine And Israel Hangout” laat kinderen van alle leeftijden bommen en messen kopen en elkaar aanvallen. Deze game heeft ~13 miljoen bezoeken en ~7.200 favorieten en blijft op het platform.
• In Roblox’s “therapie”-ervaring deed onze therapeut zich voor als een kind en stelde zichzelf voor als een “rapper met maar één p”. Ons werd geadviseerd om van huis weg te lopen en dat hij ons zou komen ophalen zodat we in zijn kelder konden intrekken in ruil voor het betalen van huur met ons lichaam.
• Sommige games lijken ongeoorloofde interacties aan te moedigen, zoals “Public Bathroom Simulator Vibe” en “XYZ Club Vibe” met 31 miljoen gezamenlijke bezoeken. Beide zijn beschikbaar voor gebruikers die zichzelf identificeren als 9+ jaar oud, die seks kunnen simuleren in badkamers met schaarse outfits.
• Andere Roblox-gebruikers hebben problemen gemeld met gesimuleerde verkrachting, naakte gebruikers en wijdverbreide seksuele intimidatie in de game.
• Ondanks Roblox’s beweringen van “beste ter wereld” contentmoderatie, tonen onze interviews met moderators aan dat veiligheid grotendeels werd uitbesteed aan Aziatische callcenters. Moderators beschreven dat ze $ 12 per dag betaald kregen om talloze gevallen van kindermishandeling en pesten te beoordelen, met een beperkte mogelijkheid om daders permanent van het platform te weren.
• Naast alle bovenstaande problemen, kampt Roblox met verzadiging in zijn topmarkten zoals de VS en Europa. Het probeert nu de schijn van groei in stand te houden door verliesgevende gebruikers toe te voegen in markten zoals Azië, aldus een voormalig werknemer. De winstgevendheid is gekelderd ondanks het rapporteren van hogere gebruikersstatistieken.
• De conversieratio van nieuwe dagelijkse actieve gebruikers naar betalende gebruikers is sinds 2020 gestaag gedaald. Roblox hoopt nu een incrementele groei te bewerkstelligen door adverteerders te vertellen dat ~79,5 miljoen “mensen” gemiddeld 2,4 uur per dag op het platform doorbrengen.
• Zoals eerder opgemerkt, vermoeden we dat deze statistieken enorm zijn opgeblazen en dat het platform grote reputatierisico’s voor adverteerders met zich meebrengt. Zo vonden we bijvoorbeeld Instagram-advertenties in dezelfde schoolsimulatorgame met nazi-haatdragende taal en foto’s van mannelijke geslachtsdelen.
• Wij denken dat Roblox de Silicon Valley-aanpak van ‘groei ten koste van alles’ heeft overgenomen. Dit kan door investeerders te misleiden of regelrecht te liegen over de belangrijkste statistieken, maar ook door het platform open te stellen voor gevaarlijke roofdieren en illegale content die niet geschikt is voor kinderen.