‘Ik wil je onsterfelijk maken’: hoe een vrouw haar deepfakes-belager confronteerde

“Nadat ik deze deepfakes content ontdekte, zal ik niet liegen… er zijn momenten geweest dat ik er ook niet meer bij wilde zijn,” zei ze. “Ik voelde me letterlijk begraven.”

Joanne Chew vond online deepfakes van zichzelf, op dezelfde manier als veel vrouwen hun gezicht in porno zagen veranderen: ze zocht naar haar eigen naam na een grote prestatie.

“Soms google ik gewoon mijn naam om te kijken wat er naar boven komt,” vertelde Chew me in een telefoongesprek in augustus 2024. “Ik wil zien, bijvoorbeeld, is het mijn artwork, of mijn acteerwerk, of mijn hoofdwebsite die als eerste naar boven komt? En toen zag ik dit, en ik dacht: ‘Oké, dit is raar.'” Iemand plaatste deepfakes van haar met haar volledige naam in de videotitels, naast racistische beledigingen, op populaire tube sites. 

Chew speelde in de film Dead Wrong uit mei 2024 en vermoedt dat haar belager haar steeds meer op de korrel nam in AI-gezichtsverwisselde porno vlak voordat de film uitkwam. 

“Toen dacht ik: ‘Het waait wel over.’ Want dit gebeurt hoe verder je komt in je carrière als een soort publiek persoon,” zei ze. “Maar toen merkte ik dat hij steeds meer postte… En toen begon ik me af te vragen, is het iemand die ik ken?” Hoewel de namen in de loop van het jaar veranderden, kwam alle deepfake-content op dat moment van dezelfde gebruikersnaam, “Ron.” 404 Media publiceert zijn schermnamen niet om te voorkomen dat zijn accounts worden versterkt.

Veel slachtoffers van deepfake-intimidatie proberen de spervuur ​​van intimidatie zelf aan te pakken door content te vinden en te melden op sites die moeilijk te bereiken zijn en vaak nauwelijks reageren. Dit is een tijdrovend, traumatiserend proces. Chew heeft dit een tijdje gedaan. “Aanvankelijk dacht ik dat het maar een paar video’s zouden worden, en ik had andere vriendinnen die model stonden en acteerden, met veel grotere volgers dan ik, die zeiden dat dit soort dingen helaas gebeuren naarmate onze carrière vordert,” zei ze. 

Ze verdrong wat ze zag een paar maanden uit haar hoofd totdat ze het rond augustus weer controleerde. Ze was geschokt, zei ze, toen ze zag hoeveel meer er in slechts een paar maanden was geüpload. “Op het hoogtepunt had hij een album met meer dan 2000 stukjes content, [postte] hij op meerdere sites, meerdere YouTube-kanalen en toen begon hij meerdere accounts op Facebook en Instagram aan te maken om mij direct een bericht te sturen.”

Toen schakelde ze de hulp in van Charles DeBarber, een online onderzoeker die eerder slachtoffers van Girls Do Porn hielp hun afbeeldingen online terug te krijgen. 

“We zien een snelle opkomst van door AI gegenereerde kunst die wordt gebruikt voor intimidatie. Het gemak [waarmee] zelfs een leek een open source-tool kan gebruiken om deep fakes te maken, zal ze alleen maar doen toenemen,” vertelde DeBarber me. “De technologie is onvermijdelijk, maar de manier waarop het wordt gebruikt, vereist zorgvuldige regulering en consequenties voor misbruik. We hebben nog steeds moeite om de technologie bij te benen.” 

Chew’s lastigvaller ging zijn inspanningen alleen maar opvoeren naarmate de tijd verstreek. Ron nam rechtstreeks contact op met Chew om haar te beledigen, geobsedeerd door haar te raken of haar om vergiffenis te smeken, terwijl hij ondertussen meer vernederende content op het internet plaatste. Bijna een jaar later worstelt Chew nog steeds met de gevolgen van het slachtoffer worden van niet-consensuele, algoritmisch gegenereerde intieme beelden. 

“Nadat ik deze content ontdekte, zal ik niet liegen… er zijn momenten geweest dat ik er ook niet meer bij wilde zijn,” zei ze. “Ik voelde me letterlijk begraven.” 

Wanneer een grote beroemdheid als Scarlett Johansson of Taylor Swift het doelwit wordt van deepfake-intimidatie, is dat vaak van een legioen ‘fans’, mensen die zich aansluiten bij groepsinspanningen in Telegram-kanalen of Civitai-modellen maken van een specifiek persoon. Dit is al zo sinds het begin van deepfakes, waarbij mensen tips en trucs uitwisselen voor de beste prompts, platforms en generatieve AI-tools om expliciet materiaal te creëren dat ze proberen te bereiken met een specifiek persoon.

Maar wanneer het iemand is die niet dezelfde professionele of financiële macht heeft als deze mega-beroemdheden, kan de intimidatie een andere vorm aannemen: één man, in Chews geval, produceert wat voelt als een eindeloze stroom afbeeldingen en video’s van zijn obsessie in video’s die zijn gestolen van pornografen en vervormd tot iets dat dreigt het leven van een persoon over te nemen.  

“Volgster van de godin J.”, aldus Rons Instagram-accountbio. Het account was gewijd aan het posten van foto’s van Chew, met een door AI gegenereerde afbeelding van haar in een kimono als profielfoto. Hij was ook, zo leek het, degene die deze content verspreidde over alle populaire deepfake-repository’s en tubesites.

In augustus plaatste Chew een video waarin ze de situatie uitlegde aan haar volgers op Instagram. Tegen die tijd had Ron honderden stukken deepfaked content van haar gemaakt en een YouTube-kanaal gewijd aan het posten ervan. Ze diende een klacht in bij YouTube en het platform reageerde door haar te vertellen dat dit account niet in strijd was met de privacyrichtlijnen , die duidelijk “AI-gegenereerde of andere synthetische content die eruitziet of klinkt als jou” verbiedt.  

“Hoe is dit geen schending? Iemand heeft mijn naam, mijn gezicht, mijn professionele informatie, tegen mijn toestemming in, overgenomen en maakt vreselijke, walgelijke, vernederende content [en] plaatst die overal op internet. Maak dit logisch,” zei ze in de video.

“Ik had het gevoel dat hij mijn sociale media in de gaten hield, dus ik sprak hem aan op dingen om te zien of hij meer hints zou geven of meer dingen zou zeggen”, vertelde Chew me.

Later die maand verwijderde Ron alle content van het YouTube-kanaal.

Maar in september begon Ron commentaar te geven op Chews Instagram-posts. En voor het eerst ging ze rechtstreeks met haar lastigvaller in gesprek en reageerde op zijn opmerkingen. 

Toen stuurde hij haar een stortvloed aan berichten op Instagram, smeekbeden om aandacht en vergeving, vermengd met bedreigingen. “Geef mijn leven alsjeblieft wat betekenis”, schreef hij. “Ik wil niet alleen het deepfake pornomonster zijn waar ik mee begon. Wat zei je dat ik was? Een gestoord monster. Mensen kunnen veranderen. Toch? Laat me veranderen en een goed mens zijn. Voor mij heb je het mooiste gezicht van alle Aziatische meisjes die ik ooit heb gezien. Laat me alsjeblieft jouw toegewijde aanbidder zijn. Oké, ik zal leuke foto’s van je op mijn Instagram plaatsen. Totdat je anders zegt. Je hebt mijn kunst eerder belachelijk gemaakt. Maar dit zal echte kunst zijn. Geïnspireerd door jou, Jo.”

Hij bleef haar lange, emotioneel geladen berichten sturen, over hoe hij zich waardeloos voelde en een monster was, hoe hij zichzelf haatte en dood wilde. “Ik wil alleen maar zeggen dat ik het met je eens ben over AI. We moeten ermee stoppen,” zei hij. “Het doet vrouwen pijn. Maar het is ook verslavend en doet vreselijke dingen met de mannen die het gebruiken. Natuurlijk voelt het goed en het is opwindend. Maar nadat het gif is vrijgelaten, is er schuld en schaamte. Ik haatte mezelf na elke vrijlating. Het is vreselijk om het monster te zijn dat je haat.” 

Hij smeekte haar om hem als haar grootste fan te zien en te overwegen om hem namens haar een OnlyFans te laten starten. Hij zei dat hij geld verdiende met het maken van deepfakes van haar. “Mannen houden van je. Gebruik ze voor jezelf,” schreef hij. “Ik zal stoppen als je het me vraagt. Als je wilt dat ik nooit meer naar je sociale media kijk, hoef je het me alleen maar te vragen. Ik ben een man van mijn woord. Als je het me vraagt, zal ik je nooit meer opzoeken. Ik zal stoppen met fan te zijn.”

“Hij noemde me Jo omdat ik zei dat alleen mensen die met mij zijn opgegroeid mij zo mogen noemen. Een tijdje lang noemde hij mij expres ‘Jo’ in sommige titels van zijn content en als hij mij berichten stuurde,” zei ze.

Chew reageerde niet op een van deze directe berichten. Maar op dezelfde dag dat hij haar deze tirades stuurde, uploadde hij een nieuwe video naar een tubesite: “Hate-Fucking Joanne Chew Some Chinese Whore.” 

Op Facebook stuurde hij haar nog meer ongelooflijk lange berichten over zijn obsessie voor haar. 

“Ik wil je niet dood. Ik maak je onsterfelijk,” zei een bericht. Hij vervolgde:  

“Je haat me nu, maar misschien zie je de dingen ooit op mijn manier. Ik ben niet het monster dat je denkt dat ik ben. Ik ben gewoon eerlijk over mijn aard. Ik vind het ook erg voor je vader. Ik ben de mijne verloren toen ik klein was. Ja, het is waar. Ik hou van je imago. En wees gerust, ik ben niet iemand uit jouw leven. […] Dus het leven is niet zo leuk, dus ik heb je persoonlijkheid bedacht en omringd met AI-vlees.

Ik heb een masker van jou dat ik mijn kleine Aziatische vriendin laat dragen. En als laatste, ja, ik heb acht inches. Het is niet de grootste, maar het is prima voor kleine Aziatische meisjes. Ik ben tevreden met mijn leven en mijn liefde voor het meisje dat ik in mijn hoofd heb gecreëerd met jouw gezicht en het lichaam van mijn vriendin. Niemand houdt zoveel van je als ik. Je zou gevleid moeten zijn dat iemand van je houdt. En ja, mijn kunst is van de hoogste integriteit, omdat het echt eerlijk is. Het is niet verbergen of liegen zoals alle bètamannetjes in je leven. Ik ben een echte man die je lichaam verlangt en is niet bang om dat te zeggen, niet je echte, hoewel, die is brutaal en vervaagd, maar je AI-lichaam is voor altijd jong, Jo.”

Ze reageerde op een aantal van zijn Facebook-berichten en probeerde hem ertoe te bewegen meer informatie te geven die ze mogelijk naar de politie kon brengen. Maar hij hapte nooit toe en bleef in plaats daarvan lange tirades sturen over zijn seksleven, haar uiterlijk en zijn racistische fetisjen. (Chew is nog steeds niet rechtstreeks naar de politie gestapt; ze vertelde me dat ze negatieve ervaringen heeft gehad met het aanspreken van haar lokale politie voor mishandeling, iets wat veel vrouwen melden als een systematisch probleem bij politiekorpsen .)

Eind september werd het stil. Hij had zijn Instagram- en Facebook-accounts verwijderd of gedeactiveerd. Maar in oktober dook er een ander account op, onder een nieuwe gebruikersnaam, dat de intimidatie hervatte en meer postte op sites waar mensen deepfakeporno zoeken. In sommige video’s en afbeeldingen leken de lichamen waarop hij haar gezicht had geruild erg jong en werden ze naast video’s van kinderen geplaatst.

In november ontdekte Chew dat iemand dezelfde afbeeldingen en video’s op een andere site plaatste met haar Chinese naam. “Het is erg gevoelig voor mij, omdat ik de fetisjisering van Aziatische vrouwen (waar ik mijn hele leven aan ben blootgesteld) zat ben en ik pas de laatste tien jaar of zo openlijk ben geweest over mijn Chinese naam”, vertelde ze me in een e-mail. “Het lijkt erop dat het allemaal al bestaande content is. Het maakt me gek dat iemand of meerdere mensen die content vrijelijk verspreiden zonder dat ze er repercussies voor krijgen (en er zelfs winst uit halen).” 

Rond dezelfde tijd kwamen de video’s terug op YouTube. Ze werden gepost door twee nieuwe accounts en de uploader voorzag de video’s van de volledige naam van Chew. 

In december plaatsten andere gebruikers dezelfde content opnieuw op pornotubesites, opnieuw met haar volledige naam in de titels. Rond die tijd verscheen er een nieuwe gebruikersnaam in haar Instagram-reacties, waarin werd beweerd dat Ron zelfmoord had gepleegd en dat zij de schuldige was. 

“In eerste instantie was hij niet van plan om te antwoorden, maar wilde hij zien of hij meer informatie zou geven (of het waar is of niet, is discutabel)”, vertelde Chew me destijds. “Toen begon hij excuses te verzinnen voor Ron (of hij hem is of een van zijn volgers, dat moet nog blijken) en zei dat hij mentaal gehandicapt was en probeerde toen mij de schuld te geven van zijn zelfmoord, wat ook wel of niet gebeurd kan zijn.”

Gedurende 10 maanden vond Chew steeds meer accounts die haar foto, haar volledige naam en schokkende video’s en foto’s plaatsten, naast denigrerende titels en beschrijvingen. 

Op het moment van schrijven is de intimidatie afgenomen. In het afgelopen jaar heeft Chew mij tientallen e-mails gestuurd met links naar honderden en duizenden stukjes content en screenshots die meer deepfakes, opmerkingen en video’s op meerdere platforms laten zien, veel meer dan in één artikel kan worden getoond. Veel ervan is verdwenen na DeBarbers rapportage en verwijderingsmeldingen en het zoeken naar haar naam op Google levert geen resultaten meer op van pornosites, maar een deel ervan staat nog steeds online.

Maar ze is nog steeds bang voor de langetermijneffecten die deze intimidatie kan hebben. Hoewel ze een werkende actrice is, is ze nog steeds afhankelijk van haar werk in de zakenwereld om rond te komen tussen de meer sporadische optredens in de kunsten, en die banen vereisen vaak antecedentenonderzoeken.

En als actrice heeft het netwerken en sociale evenementen moeilijker gemaakt, omdat het moeilijk is geworden om mensen buiten haar naaste vertrouwelingen te vertrouwen. “Het heeft me ongelooflijk wantrouwend gemaakt tegenover mannen, wat ik weet dat niet eerlijk is, maar Ron kan letterlijk iedereen zijn,” zei ze. “En er zijn veel mannen die het probleem niet zien, ze vragen zich af waarom we niet gevleid zijn door de aandacht.”

Deepfakes begon zeven jaar geleden als een nieuwe AI-aangedreven techniek voor expliciete beeldmisbruik . De technologie ging van grove frankenporn onder de programmeervaardige en moreel lichtzinnige mensen naar het produceren van nepbeelden die zo realistisch waren dat ze binnen enkele maanden na de introductie als een bedreiging voor de nationale veiligheid werden beschouwd .

Maar het meest populaire gebruik is altijd geweest als een hulpmiddel voor massale intimidatie. De platforms waarop mensen deepfakes verspreiden, zijn in die tijd alleen maar uitgebreid, terwijl de methoden om deepfakes te maken eenvoudiger zijn geworden; zo eenvoudig dat schoolkinderen het doen . De volwassenen in de kamer , evenals beleidsmakers, blijven slachtoffers van deepfake-intimidatie in de steek laten.

Gesprekken over deepfakes laten sekswerkers, die dubbel worden uitgebuit in deze content, nog steeds achter. AI blijft exponentieel exploderen, terwijl vrouwen die het doelwit zijn van dit soort intimidatie keer op keer zeggen dat ze geloven dat geseksualiseerde online intimidatie deel uitmaakt van de deal om een ​​succesvolle vrouw te zijn op internet: onhoudbaar en toch onderdeel van een ongeschreven contract. 

“De Violence Against Women Act Reauthorization Act van 2022 creëerde een federale civiele rechtszaak voor slachtoffers van niet-consensuele content”, aldus DeBarber. “Deze wet staat slachtoffers toe een rechtszaak aan te spannen tegen de persoon die hun intieme afbeeldingen zonder toestemming openbaarde. Deze wet dekt echter geen ‘deepfakes’, inclusief die welke via AI zijn gemaakt. De focus ligt meestal op beroemdheden, influencers en politieke figuren. Dit verandert zelf snel. Wij vinden dat wetgevers en kiezers het grotere plaatje niet zien – dit is een probleem voor iedereen.” 

Zelfs wanneer de voorgestelde wetgeving een nieuwe poging waagt om deepfakes te criminaliseren, zoals de TAKE IT DOWN Act momenteel doet, bestaat het risico dat deze als wapen wordt gebruikt door degenen die de vrijheid van meningsuiting online verder willen inperken, in plaats van dat deze genuanceerd, effectief en inclusief is – of leert van wetgevende fouten uit het verleden .  

Terwijl wetgevers en platforms blijven zoeken naar oplossingen en de politie slachtoffers opzij duwt, lijdt iedereen. Er is nog steeds geen technologische oplossing voor deepfakes , en een perfecte juridische oplossing lijkt ook ver weg. Maar Chews ervaring met het confronteren van haar belager geeft ons een nieuwe blik in de geest van de mensen die het misbruik uitdelen en zich verschuilen achter anonimiteit, en het uitputtende proces om je eigen naam terug te krijgen.