Rechtszaak beschuldigt a16z ervan Roblox te hebben omgebouwd tot een speeltuin voor een schietpartij op school
Indignatie redactie
4 min. lezen
De familie van een overleden tienermeisje zegt dat ze nog in leven zou zijn als Roblox beter zou modereren op het platform.
De moeder van een tiener die zelfmoord pleegde, klaagt Roblox aan en beschuldigt het bedrijf ervan zich meer zorgen te maken om zijn investeerders dan om de kinderen in zijn publiek. De klacht , die deze maand werd ingediend, beweert dat Kleiner Perkins en Andreessen Horowitz, die samen honderden miljoenen dollars in het gamebedrijf hebben geïnvesteerd , een platform hebben opgezet dat kinderen geld oplevert ten koste van hun veiligheid.
Advocaten van Jaimee Seitz spanden de rechtszaak aan in het oostelijke district van Kentucky. Seitz is de moeder van Audree Heine, een tienermeisje dat vlak na haar 13e verjaardag in 2024 zelfmoord pleegde. Toen rechercheurs Heines dood onderzochten, ontdekten ze dat ze een enorm online sociaal leven had, gecentreerd rond groepen op Discord en Roblox die schoolschutters zoals Dylan Kleebold verafgoodden. Sinds Heines dood heeft Seitz zich uitgesproken over de unieke gevaren van Roblox.
Heine’s familie beweert dat ze nooit zou zijn gestorven als Roblox hun platform beter had gemodereerd. “Audree werd tot zelfmoord gedreven door een online community die zich toelegt op het verheerlijken van geweld en het imiteren van beruchte massaschieters, een community die alleen kan gedijen en jonge kinderen zoals Audree kan uitbuiten dankzij het schandelijk onrechtmatige gedrag van de verdachten”, aldus de klacht.
De advocaten van Seitz dienden op 20 oktober de 89 pagina’s tellende rechtszaak in en probeerden te beargumenteren dat de problemen van Roblox allemaal hun oorsprong vinden in de hebzucht van bedrijven. “De reden dat Roblox overspoeld wordt met schadelijke content en roofdieren is simpel: Roblox geeft prioriteit aan gebruikersgroei, omzet en uiteindelijke winst boven de veiligheid van kinderen”, aldus de aanklacht
. “Jarenlang heeft Roblox deze aantallen bewust belangrijker gevonden dan de veiligheid van kinderen door de acties die het heeft ondernomen en de beslissingen die het heeft genomen om het aantal gebruikers te vergroten en er geld mee te verdienen, ongeacht de gevolgen.”
Volgens de aanklacht trok het verdienpotentieel van Roblox grote investeerders aan, waardoor het bedrijf besloot de veiligheid op te geven voor snel geld. “Dankzij het bedrijfsmodel van Roblox kon het bedrijf aanzienlijke durfkapitaal aantrekken van grote investeerders zoals Kleiner Perkins en Andreessen Horowitz, waardoor er enorme druk op het bedrijf kwam te staan om prioriteit te geven aan de groei en het genereren van inkomsten uit zijn gebruikers.”
Andreessen Horowitz, beter bekend als a16z, is een durfkapitaalbedrijf dat eerder investeerde in Civitai , een bedrijf dat geld verdiende met niet-censuele AI-porno, een ‘ongecensureerd’ AI-project dat gebruikers advies gaf over hoe ze zelfmoord konden plegen , en een startup die toegang verkoopt tot duizenden ‘synthetische influencers’ voor gebruik bij het manipuleren van de publieke opinie.
In 2020 leidde a16z een financieringsronde die $150 miljoen ophaalde voor Roblox. “Roblox is een van die zeldzame platformbedrijven met een enorme aantrekkingskracht en een organisch, snelgroeiend bedrijfsmodel dat het bedrijf vooruit zal helpen en de sector nog vele jaren vooruit zal helpen”, aldus David George, een general partner bij de investeringsmaatschappij, destijds in een persbericht .
In de rechtszaak wordt beweerd dat Roblox weet dat kinderen een makkelijke prooi zijn voor moeiteloze pogingen om geld te verdienen, zoals gebruikelijk is in online videogames. “Roblox erkent dat kinderen meer vrije tijd hebben, een onderontwikkeld cognitief vermogen en een verminderde impulscontrole, en heeft daarom misbruik gemaakt van hun kwetsbaarheid om hen naar de app te lokken”, aldus de aanklacht.
In de aanklacht wordt opgemerkt dat Roblox jarenlang geen leeftijdsverificatie vereiste, noch de communicatie tussen kinderen en volwassenen beperkte en geen volwassene verplichtte om een account voor een kind aan te maken. Roblox introduceerde in juli leeftijdsverificatie en leeftijdsgebaseerde communicatiesystemen, een functie die AI gebruikt om de gezichten van gebruikers te scannen om hun leeftijd te controleren.
De implementatie van dit soort basisveiligheidsvoorzieningen heeft echter jaren geduurd. Volgens de rechtszaak is er een reden waarom Roblox zo traag is geweest met veiligheid. “Om te groeien, heeft Roblox de prioriteit van veiligheidsmaatregelen nog verder verlaagd, zodat het sterke cijfers aan Wall Street kon rapporteren”, aldus de aanklacht.
“Roblox-managers hebben bijvoorbeeld voorstellen van werknemers afgewezen voor vereisten voor ouderlijke goedkeuring die kinderen op het platform zouden beschermen. Werknemers gaven ook aan dat ze expliciete druk voelden om veranderingen te vermijden die de betrokkenheid bij het platform zouden kunnen verminderen, zelfs wanneer die veranderingen kinderen zouden beschermen tegen schadelijke interacties op het platform.”
Roblox is nu het onderwerp van meerdere onderzoeksrapporten die de veiligheidsproblemen op de platforms aan het licht hebben gebracht. Het is ook het onderwerp van meerdere rechtszaken. De zaak van Seitz is de twaalfde die is aangespannen door Anapol Weiss, het advocatenkantoor dat haar vertegenwoordigt.
Volgens Seitz’ interviews met de pers en de rechtszaak raakte haar dochter verstrikt in een subcultuur op Roblox en Discord genaamd The True Crime Community (TCC). “Via Roblox werd Audree blootgesteld aan emotionele manipulatie en sociale druk door andere gebruikers, waaronder TCC-leden, die beweerden de schutters op Columbine te vereren, hen afschilderden als onbegrepen buitenbeentjes die wraak namen op hun pestkoppen en aanzetten tot geweld tegen zichzelf en anderen”, aldus de rechtszaak.
Indignatie doorzocht de gameservers van Roblox nadat de rechtszaak was aangespannen en vond meerdere voorbeelden van games die vernoemd waren naar het bloedbad op Columbine. Eén server gebruikte foto’s uit Parkland, Florida en een andere maakte reclame met de CCTV-beelden van Dylan Klebold en Eric Harris van de schietpartij op Columbine.
