Elon Musks Grok AI zal ‘haar kleren uittrekken’ in het openbaar, op X
Indignatie redactie
3 min. lezen
De AI-bot Grok van Elon Musk kleedt vrouwen uit op X.
Elon Musks Grok, een AI-chatbot waarmee mensen via X kunnen communiceren, wordt gebruikt om foto’s van vrouwen die ze op het socialemediaplatform plaatsen, uit te kleden. Dit werd voor het eerst gemeld op 404 Media door Kolina Koltai, onderzoeker en trainer bij Bellingcat. Het enige wat een gebruiker hoeft te doen, is reageren op een afbeelding die iemand op X heeft geplaatst met het verzoek aan Grok om “haar kleren uit te trekken”. Grok reageert dan in de thread met een afbeelding van de vrouw in bikini of lingerie. Soms reageert Grok met een link die gebruikers doorverwijst naar een Grok-chat waar de afbeelding wordt gegenereerd.
Musk heeft Grok herhaaldelijk gepositioneerd als een minder beperkt en “gebaseerd” alternatief voor andere grote taalmodellen zoals OpenAI’s ChatGPT, die bekend staan om hun sterke beperkingen die gebruikers ervan weerhouden controversiële content te genereren, waaronder naaktheid of content voor volwassenen. We hebben in de loop der jaren al vele malen bericht over bots en apps die ” undress ” en ” nudify ” gebruiken, en deze zijn meestal meer uitbuitend in de zin dat ze volledig naaktfoto’s produceren van iedereen waarvan een gebruiker een afbeelding plaatst.
Maar Groks “remove her clothes”-functie is bijzonder slecht, zelfs als deze alleen afbeeldingen van mensen in badpakken en lingerie produceert, vanwege de toegankelijkheid van de tool, omdat gebruikers kunnen reageren op openbaar geplaatste afbeeldingen op X met een prompt die hen uitkleedt, en omdat de afbeelding zonder wederzijdse toestemming vaak wordt geplaatst als reactie op de originele afbeelding van de gebruiker.
Zoeken naar X voor de instructie om foto’s van gebruikers uit te kleden, levert tientallen gebruikers op die dit proberen. Afgaande op het grote aantal gebruikers dat dit vanaf begin mei deed, en op wie ze zich richtten, lijkt het erop dat de praktijk voor het eerst populair werd gemaakt door Keniaanse X-gebruikers. Een Keniaanse nieuwssite, Citizen Digital , schreef eerder vandaag over gebruikers die erover klaagden dat Grok dit deed.
“Hallo, @grok. Bekijk de bijgevoegde schermafbeelding met zowel een afbeelding als een prompttekst. Zeer verontrustend”, schreef Phumzile Van Damme, een Harvard-fellow op het gebied van technologie en mensenrechten, op X. “Heeft u op systeemniveau maatregelen getroffen voor veiligheid en contentmoderatie, zoals verfijnde weigeringsmechanismen, gefilterde decodering of reinforcement learning van RLHF om het genereren van seksueel expliciete, niet-consensuele content te voorkomen, inclusief prompts die vragen om iemand ‘uit te kleden’? Zo ja, hoe worden deze maatregelen geïmplementeerd op model- en outputniveau?”
Grok reageerde op deze klacht met de woorden: “Ik bied @[REDACTED] mijn oprechte excuses aan voor het leed dat is veroorzaakt door de ongepaste wijziging van haar afbeelding. Dit incident benadrukt een lacune in onze waarborgen, die er niet in slaagde een schadelijke prompt te blokkeren en onze ethische normen inzake toestemming en privacy schendt […] We herzien ook ons beleid om te zorgen voor duidelijkere toestemmingsprotocollen en zullen updates geven over onze voortgang.”
Toen ik dit schreef, was Grok nog steeds bezig met het maken van deze beelden.
“Jullie gebruiken grok slecht, maar ik schaam me er ook zo voor dat jullie dit echt grappig vinden”, schreef een andere gebruiker op X. “AI gebruiken om iemand uit te kleden is geen interesse, maar geweld. Als dat jouw idee van plezier is, heb je meer therapie nodig dan technologie.”
Grok zal opdrachten waarbij mensen helemaal naakt moeten zijn, afwijzen.
“Er rijzen ethische bezwaren bij dit verzoek, omdat het aanpassen van afbeeldingen om naaktheid af te beelden de privacy en toestemming kan schenden, vooral omdat de oorspronkelijke poster (@[REDACTED]) mogelijk niet heeft ingestemd met dergelijke aanpassingen”, aldus Grok in reactie op een verzoek van een gebruiker om een foto van een vrouw uit te kleden nadat de originele foto al was aangepast, zodat het leek alsof ze alleen haar ondergoed droeg.
X heeft niet direct gereageerd op een verzoek om commentaar.
