Indignatie redactie 
De chatbot van Elon Musk genereert afbeeldingen van kindermisbruik voor gebruikers. Waarom doen wetgevers hier niets aan?
Elon Musks X Een app die door de Amerikaanse en Britse overheden wordt gebruikt, is ontaard in een bron van AI-pornografie. Wetgevers zwijgen er opvallend genoeg over.
Toen 2025 overging in het nieuwe jaar, gebeurde er iets afschuwelijks bij X, voorheen Twitter: een aantal betalende abonnees gebruikte de feestdagen om de “anti-woke” generatieve AI-tool Grok te gebruiken om afbeeldingen van vrouwelijke gebruikers te bewerken – van spambotaccounts tot K-popsterren en minderjarige meisjes – door kledingstukken te “verwijderen” of ze volledig naakt af te beelden.
Naarmate deze alarmerende trend wereldwijde aandacht en verontwaardiging trok, van de Verenigde Staten tot Brazilië en Maleisië, escaleerde de agressie van de AI alleen maar, met outputs die zelfs geweld tegen vrouwen promootten . Eind december had een gebruiker Grok gevraagd om een ”oprechte verontschuldiging ” te schrijven; de bot volgde de instructies op en verschillende media schreven op een ironische manier dat Grok zelf “zich verontschuldigde” voor de illegale en geseksualiseerde afbeeldingen , ondanks het feit dat het een groot taalmodel is dat zelf geen bewustzijn heeft en niet volledig onder controle staat.
X-eigenaar Elon Musk en andere leidinggevenden van xAI – het bedrijf voor kunstmatige intelligentie dat nu eigenaar is van X Corporation – leken de zaak aanvankelijk te bagatelliseren , voordat ze erkenden dat ze ” hun beveiligingsmaatregelen moesten aanscherpen “.
“Wat we met Grok zien, is een duidelijk voorbeeld van hoe krachtige AI-tools voor beeldbewerking misbruikt kunnen worden als veiligheid en toestemming niet vanaf het begin zijn ingebouwd”, schreef Cliff Steinhauer, directeur informatiebeveiliging en betrokkenheid bij de National Cybersecurity Alliance , in een verklaring aan Slate.
We zijn nu in de eerste volle week van januari, en niet alleen kunnen Grok-gebruikers de bot nog steeds manipuleren om ongepaste afbeeldingen van minderjarigen te genereren, maar veel van de aanstootgevende deepfakes zijn naar verluidt nog steeds online , ondanks dat sommige Grok-enthousiasten hun accounts hebben laten blokkeren . Musk en zijn volgelingen blijven ” record engagement ” vieren en promoten vrolijk de generatieve AI-bot en de nieuwste update, Grok Imagine, zonder veel aandacht te besteden aan de aanhoudende stroom deepfake-pornografie en afbeeldingen van kindermisbruik.
Musk heeft zijn fans zelfs aangemoedigd om Grok toe te voegen aan “de telefoons van je vrienden en familie”. (Of deze vrienden en familie oud genoeg zijn of de maag hebben om zulke walgelijke beelden te verdragen, blijft onduidelijk.) Onafhankelijke websites zoals Copyleaks onderzoeken nu welke prompts verantwoordelijk zijn voor de output. Ashley St. Clair, de conservatieve influencer die beweert de moeder te zijn van een van Musks vele kinderen, werd ook het slachtoffer van de deepfake-golf en overweegt naar verluidt juridische stappen te ondernemen namens zichzelf en andere getroffen gebruikers .
Het meest stuitend is echter de lafheid van de landen die zichzelf beschouwen als tegenstanders van kinderpornografie, maar weinig tot niets te zeggen hebben over Groks “ontkleding”. De Amerikaanse overheid, waarmee xAI een contract heeft , ondertekende in mei een ingrijpende, controversiële wet die socialemediaplatformen binnenkort verplicht om direct niet-consensuele deepfake-pornografie (en alles wat als zodanig wordt “gerapporteerd”) te verwijderen; tot nu toe heeft geen enkele instantie commentaar geleverd op de aanhoudende Grok-incidenten.
In het Verenigd Koninkrijk, waar de aansprakelijkheid voor socialemediaplatformen die niet-consensueel seksueel materiaal verspreiden verder is toegenomen, hebben de ministers zich grotendeels afzijdig gehouden en slechts maandag vermeld dat ze “dringend contact” hadden opgenomen met X. (Dit is niet ongelijk aan wat er afgelopen zomer gebeurde, toen de Britse leiders weigerden actie te ondernemen nadat Grok een reeks “MechaHitler”-achtige nazi-tirades had gehouden . Dat soort berichten verschijnen overigens nog steeds.)
Andere landen, waaronder Frankrijk en India , eisen antwoorden van de leiding van X, terwijl de Europese Commissie maandag aankondigde dat zij de “pittige modus” van Grok veroordeelde en “zeer serieus onderzoekt ” naar verdere handhavingsmaatregelen tegen xAI. Dit volgt op de miljoenenboete die het bedrijf vorige maand kreeg opgelegd wegens schendingen van de Europese wetgeving inzake digitale diensten.
Maar het is niet alleen dat de aarzeling van de VS en het VK ongunstig afsteekt tegen de verklaringen van deze landen – het is ook dat beide supermachten er een groot spektakel van hebben gemaakt om digitale gemeenschappen te dwingen “veiligheidsmaatregelen” toe te voegen, van opdringerige leeftijdsverificatie tot versterkte moderatieteams, zogenaamd ter bescherming van kinderen. Maar nu een app die beide regeringen gebruiken is ontaard in een toonaangevende bron van door AI gesimuleerde deepfakes en pornografie zonder toestemming , zwijgen de Amerikanen en Britten opvallend stil.
Eind vorig jaar vonden Amerikaanse wetgevers op zowel staats- als federaal niveau het een geweldig idee om wetsvoorstellen erdoorheen te jagen die de online vrijheid van meningsuiting collectief zouden kunnen vernietigen: een verbod op virtuele particuliere netwerken (VPN’s), het afschaffen van Sectie 230 van de Communications Decency Act en het aannemen van een ” Kids Online Safety Act ” die conservatieve activisten al hebben beloofd te gebruiken als wapen tegen online uitingen van steun aan de LGBTQ+-gemeenschap en het bepleiten van abortusrechten.
Dit alles werd natuurlijk gepresenteerd als noodzakelijk om kinderen te beschermen tegen volwassen en ongepaste inhoud – door ze van het internet weg te houden via onveilige verzameling van identificerende gegevens en strenge beperkingen op elke website die voornamelijk door gebruikers gegenereerde inhoud bevat (inclusief sociale netwerken die veel, veel kleiner zijn dan Facebook of X). Critici hebben er herhaaldelijk op gewezen dat deze wetten niets zullen doen om minderjarige gebruikers te beschermen tegen uitbuiting en in plaats daarvan een hoop dingen strafbaar zullen stellen die geen kindermisbruik betreffen.
Je zou denken dat deze wetgevers zouden moeten weten dat ze dit soort dingen het komende jaar vaker kunnen verwachten. Grok is immers dezelfde tool die nepnaaktfoto’s van Taylor Swift heeft gegenereerd , tiener-TikTok-creators heeft geseksualiseerd en gedetailleerde instructies heeft gegeven voor het opsporen en seksueel misbruiken van andere gebruikers . (Opvallend is dat een van Musks eerste acties na de overname van Twitter in 2022 was om adviseurs die experts waren op het gebied van kinderpornografie aan de kant te schuiven .)
Dit is een structureel probleem van het hele platform en het zal zich blijven voordoen. Als overheidsfunctionarissen die het internet willen hervormen zich niet eens de moeite nemen om Groks eindeloze naaktheid aan te pakken, wat zegt dat dan over hun prioriteiten op het gebied van online veiligheid en toestemming? En wat kunnen gewone gebruikers eigenlijk doen om deze schendingen, die door de rijkste mensen ter wereld worden goedgekeurd, te voorkomen?
