Indignatie redactie 
Grok – “Ze leeft in angst dat naaktfoto’s en seksuele afbeeldingen van haarzelf, waaronder foto’s van haar als kind, openbaar worden gemaakt.”
De Grok AI van Elon Musk veroorzaakte de afgelopen maand een enorm schandaal toen gebruikers het begonnen te gebruiken om zowel volwassenen als kinderen digitaal uit te kleden , wat leidde tot wijdverspreide verontwaardiging en een golf van kritiek.
De commotie leidde ertoe dat Musks socialemediaplatform Grok X aankondigde dat het “technische maatregelen” zou nemen om te voorkomen dat gebruikers de AI zouden gebruiken om echte mensen uit te kleden of ze in onthullende kleding zoals bikini’s te plaatsen. Dit onderstreepte eens te meer de explosief lakse aanpak van de miljardair op het gebied van contentmoderatie.
De wijzigingen lijken het probleem echter nauwelijks te hebben opgelost. Betaalde abonnees kunnen nog steeds Grok-afbeeldingen maken en bewerken, wat tot kritiek van experts leidt.
De schade raakt Musk persoonlijk. Ashley St. Clair, een conservatieve influencer die een kind met Musk heeft, klaagt Grok xAI nu aan en beschuldigt het bedrijf ervan gebruikers in staat te stellen obscene afbeeldingen van haar te genereren.
“Ze leeft in angst dat Grok xAI naakt- en seksuele afbeeldingen van haarzelf, waaronder van haar als kind, zal blijven maken en dat ze niet veilig zal zijn voor de mensen die deze afbeeldingen consumeren,” staat in een juridisch document dat door de Wall Street Journal is geciteerd .
De rechtszaak werd donderdag aangespannen in New York County en is inmiddels overgeplaatst naar de federale rechtbank.
“Dit is een zeer getroffen vrouw die haar stem laat horen,” aldus Carrie Goldberg, de advocaat van St. Cair, in een verklaring. “Het doel van de rechtszaak is om deze ontmenselijkende behandeling door xAI voor het hele publiek te voorkomen.”
Goldberg beweert dat Grok werd gebruikt om obscene afbeeldingen van St. Clair te maken, zowel van haar als 14-jarig kind als van haar als volwassene in seksueel expliciete poses. De influencer, die Joods is, zou ook zijn afgebeeld in een bikini met hakenkruisen en met een tatoeage waarop stond: “Elon’s hoer”.
In de rechtszaak werd Musks bedrijf ervan beschuldigd de afbeeldingen meer dan een week online te hebben laten staan. Zelfs nadat ze haar reacties op de afbeeldingen had voorzien van een waarschuwing voor de inhoud, bleven de afbeeldingen zelf naar verluidt online staan.
In de rechtszaak wordt ook beweerd dat xAI “geen overtredingen” heeft geconstateerd toen zij de aanstootgevende afbeeldingen meldde.
De relatie tussen St. Clair en Musk is op zijn zachtst gezegd turbulent geweest. Ze is slechts één van de moeders van Musks veertien kinderen. Zoals de Wall Street Journal vorig jaar berichtte , heeft St. Clair sindsdien onthuld hoe Musk haar 15 miljoen dollar aanbood, plus een maandelijkse alimentatie van 100.000 dollar, om te voorkomen dat ze openbaar zou maken dat ze zijn kind had gebaard.
Grok heeft niet alleen de creatie van geseksualiseerde beelden van St. Clair mogelijk gemaakt, maar is ook gebruikt om afschuwelijk geweld tegen echte vrouwen in beeld te brengen en de huisadressen van gewone mensen nauwkeurig te onthullen.
Deze afschuwelijke trend is enorm impopulair gebleken. Uit een recent onderzoek bleek dat maar liefst 97 procent van de respondenten vond dat AI-tools geen seksueel expliciete content van kinderen zouden mogen genereren. 96 procent vond zelfs dat de tool geen afbeeldingen van hen in ondergoed zou mogen maken waarop ze naakt te zien zijn.
“Het feit dat geavanceerde tools voor naaktfotografie nog steeds zo gemakkelijk toegankelijk zijn, toont duidelijk aan dat X het probleem van online geweld tegen vrouwen en meisjes niet serieus genoeg neemt,” vertelde Rebecca Hitchen, hoofd beleid en campagnes van de End Violence Against Women Coalition, aan The Guardian .
“De waarheid is dat Musk en de techsector simpelweg geen prioriteit geven aan veiligheid of waardigheid in de producten die ze maken”, voegde Penny East, directeur van de Fawcett Society, eraan toe. “Het is een wel heel lage lat voor vrouwen om te verwachten dat ze online kunnen converseren zonder dat mannen hen uitkleden. En toch lijkt zelfs dat onmogelijk.”
