Deepfake-porno: waarom we het maken ervan tot een misdaad moeten maken, en niet alleen delen

Deepfake-pornografie – waarbij iemands gelijkenis met kunstmatige intelligentie in seksueel expliciete afbeeldingen wordt gegoten – komt schrikbarend vaak voor. De populairste website gewijd aan geseksualiseerde deepfakes, die meestal zonder toestemming worden gemaakt en gedeeld, ontvangt ongeveer 17 miljoen hits per maand. De content is bijna uitsluitend gericht op vrouwen . Er is ook een exponentiële toename van ‘nudifying’-apps die gewone afbeeldingen van vrouwen en meisjes omzetten in naakten.

Deepfake – Toen Jodie , het onderwerp van een nieuwe BBC Radio File on 4 documentaire, een anonieme e-mail ontving waarin stond dat ze was ge-deepfakt, was ze er kapot van. Haar gevoel van schending werd sterker toen ze erachter kwam dat de verantwoordelijke man iemand was die al jaren een goede vriend van haar was. Ze bleef achter met suïcidale gevoelens en verschillende van haar andere vriendinnen waren ook slachtoffer.

De horror waarmee Jodie, haar vrienden en andere slachtoffers worden geconfronteerd, wordt niet veroorzaakt door onbekende “perverts” op het internet, maar door gewone, alledaagse mannen en jongens. Daders van deepfake seksueel misbruik kunnen onze vrienden, kennissen, collega’s of klasgenoten zijn. Tienermeisjes over de hele wereld hebben ontdekt dat hun klasgenoten apps gebruiken om hun berichten op sociale media om te zetten in naaktfoto’s en deze te delen in groepen.

Na nauw met slachtoffers te hebben samengewerkt en met veel jonge vrouwen te hebben gesproken, is het mij duidelijk dat deepfakeporno nu een onzichtbare bedreiging vormt die het leven van alle vrouwen en meisjes doordringt. Deepfakeporno of naakte beelden kunnen ons allemaal overkomen, op elk moment. En in het Verenigd Koninkrijk is er in ieder geval niets dat we kunnen doen om het te voorkomen.

Hoewel de Britse wetten het delen van deepfakeporno zonder toestemming strafbaar stellen , dekken ze de creatie ervan niet. Alleen al de mogelijkheid van creatie brengt angst en bedreiging in het leven van vrouwen.

Het creëren van deepfakes is op zichzelf al een schending

Daarom is het tijd om te overwegen om het maken van geseksualiseerde deepfakes zonder toestemming te criminaliseren. In het Hogerhuis beschreef Charlotte Owen deepfake-misbruik als een “nieuwe grens van geweld tegen vrouwen” en riep op om het maken ervan te criminaliseren.

Het is ook een debat dat over de hele wereld plaatsvindt. De VS overweegt federale wetgeving om slachtoffers het recht te geven om schadevergoeding of bevelen te eisen bij een civiele rechtbank, in navolging van staten als Texas die creatie hebben gecriminaliseerd. Andere rechtsgebieden zoals Nederland en de Australische staat Victoria criminaliseren de productie van geseksualiseerde deepfakes zonder toestemming al.

Een veelvoorkomende reactie op het idee om het maken van deepfakes zonder toestemming te criminaliseren, is dat deepfake-pornografie een seksuele fantasie is , net als het je inbeelden ervan in je hoofd. Maar dat is het niet – het is het maken van een digitaal bestand dat op elk moment online kan worden gedeeld, opzettelijk of via kwaadaardige middelen zoals hacken.

Het is ook niet duidelijk waarom we de rechten van mannen op seksuele fantasieën zouden moeten bevoorrechten boven de rechten van vrouwen en meisjes op seksuele integriteit, autonomie en keuze. Dit is niet-consensueel gedrag van seksuele aard. Noch de porno-artiest, noch de vrouw wiens afbeelding in de porno wordt opgenomen, hebben toestemming gegeven voor het gebruik van hun afbeeldingen, identiteiten en seksualiteiten op deze manier.

Creation gaat misschien over seksuele fantasie, maar het gaat ook over macht en controle, en de vernedering van vrouwen. Het gevoel van seksuele aanspraken van mannen op het lichaam van vrouwen doordringt de internetchatrooms waar geseksualiseerde deepfakes en tips voor hun creatie worden gedeeld. Zoals bij alle vormen van op afbeeldingen gebaseerd seksueel misbruik , gaat deepfakeporno over het vertellen aan vrouwen om terug in hun hokje te kruipen en van het internet af te gaan.

De wet verder brengen

Een wet die alleen de distributie van deepfake-porno criminaliseert, negeert het feit dat de niet-consensuele creatie van het materiaal op zichzelf al een overtreding is. Criminalisering van de productie zou erop gericht zijn deze praktijk bij de wortel te stoppen.

Hoewel er terechte zorgen zijn over de overcriminalisering van maatschappelijke problemen, is er wereldwijd sprake van een ondercriminalisering van de schade die vrouwen ervaren, met name online misbruik.

En hoewel strafrecht niet de enige – of zelfs de primaire – oplossing is voor seksueel geweld vanwege het voortdurende falen van politie en justitie , is het wel een optie voor genoegdoening . Niet alle vrouwen willen aangifte doen bij de politie, maar sommigen wel. We hebben ook nieuwe burgerlijke bevoegdheden nodig om rechters in staat te stellen internetplatforms en daders te bevelen beelden te verwijderen en te wissen, en om te eisen dat er waar nodig compensatie wordt betaald.

Naast het feit dat het strafrecht de basis legt voor onderwijs en culturele verandering, kan het ook grotere verplichtingen opleggen aan internetplatforms. Als het maken van pornografische deepfakes onwettig zou zijn, zou het voor betalingsaanbieders moeilijk zijn om het deepfake-ecosysteem in stand te houden, moeilijk voor Google om deepfake-pornosites bovenaan de zoekresultaten te blijven weergeven en moeilijk voor socialemediabedrijven zoals X (voorheen Twitter) of de app-winkels om nudify-apps te blijven adverteren.

De realiteit van het leven met de onzichtbare dreiging van deepfake seksueel misbruik begint nu tot vrouwen en meisjes door te dringen. Mijn vrouwelijke studenten zijn verbijsterd als ze zich realiseren dat de student naast hen deepfake porno van hen kan maken, ze kan vertellen dat ze dat gedaan hebben, dat ze ervan genieten om ernaar te kijken – maar ze kunnen er niets aan doen, het is niet onwettig.

Nu vrouwen hun diepe wanhoop uiten over het feit dat hun toekomst in handen ligt van het ‘onvoorspelbare gedrag’ en de ‘overhaaste’ beslissingen van mannen, is het tijd dat de wet deze bedreiging aanpakt.