Deepfake-porno: waarom we het tot een misdaad moeten maken om het te maken, en niet alleen maar te delen
Indignatie redactie
5 min. lezen
This photo illustration created on July 18, 2023, in Washington, DC, shows an advertisement to create AI girls reflected in a public service announcement issued by the FBI regarding malicious actors manipulating photos and videos to create explicit content and sextortion schemes. Photo apps digitally undressing women, sexualized text-to-image prompts creating "AI girls" and manipulated images fuelling "sextortion" rackets -- a boom in deepfake porn is outpacing US and European efforts to regulate the technology. (Photo by Stefani REYNOLDS / AFP)
Deepfake-pornografie – waarbij iemands gelijkenis met kunstmatige intelligentie in seksueel expliciete beelden wordt opgenomen – is alarmerend gebruikelijk. De populairste website gewijd aan geseksualiseerde deepfakes, die meestal zonder toestemming wordt gemaakt en gedeeld, ontvangt ongeveer 17 miljoen hits per maand. De inhoud is vrijwel uitsluitend gericht op vrouwen . Er is ook een exponentiële toename van ‘naaktmakende’ apps die gewone afbeeldingen van vrouwen en meisjes omzetten in naaktfoto’s.
Toen Jodie , het onderwerp van een nieuwe BBC Radio File on 4-documentaire, een anonieme e-mail ontving waarin stond dat ze deepfaked was, was ze er kapot van. Haar gevoel van overtreding werd nog groter toen ze ontdekte dat de verantwoordelijke man iemand was die al jaren een goede vriend was. Ze bleef achter met suïcidale gevoelens, en verschillende van haar andere vriendinnen werden ook het slachtoffer.
De gruwel waarmee Jodie, haar vrienden en andere slachtoffers worden geconfronteerd, wordt niet veroorzaakt door onbekende ‘perverselingen’ op internet, maar door gewone, alledaagse mannen en jongens. Daders van deepfake seksueel misbruik kunnen onze vrienden, kennissen, collega’s of klasgenoten zijn. Tienermeisjes over de hele wereld hebben zich gerealiseerd dat hun klasgenoten apps gebruiken om hun berichten op sociale media om te zetten in naaktfoto’s en deze in groepen te delen.
Na nauw met de slachtoffers te hebben samengewerkt en met veel jonge vrouwen te hebben gesproken, is het mij duidelijk geworden dat deepfake-porno nu een onzichtbare bedreiging is die de levens van alle vrouwen en meisjes doordringt. Deepfake pornografie of het nudificeren van gewone beelden kan ons allemaal overkomen, op elk moment. En, althans in Groot-Brittannië, kunnen we niets doen om dit te voorkomen.
Hoewel de Britse wetgeving het delen van deepfake-porno zonder toestemming strafbaar stelt , hebben ze geen betrekking op de creatie ervan. Alleen al de mogelijkheid van creatie brengt angst en bedreiging in de levens van vrouwen.
Deepfake-creatie op zichzelf is een overtreding
Daarom is het tijd om te overwegen het creëren van geseksualiseerde deepfakes zonder toestemming strafbaar te stellen. In het House of Lords beschreef Charlotte Owen deepfake-misbruik als een “nieuwe grens van geweld tegen vrouwen” en riep ze op om creatie te criminaliseren.
Het is ook een debat dat over de hele wereld plaatsvindt. De VS overwegen federale wetgeving om slachtoffers het recht te geven om schadevergoeding of dwangbevelen te eisen bij een burgerlijke rechtbank, in navolging van staten als Texas die creatie strafbaar hebben gesteld. Andere rechtsgebieden, zoals Nederland en de Australische staat Victoria , criminaliseren de productie van geseksualiseerde deepfakes zonder toestemming al.
Een veelgehoord antwoord op het idee om het creëren van deepfakes zonder toestemming strafbaar te stellen, is dat deepfake-pornografie een seksuele fantasie is , net alsof je het je in je hoofd voorstelt. Maar dat is niet het geval: er wordt een digitaal bestand gecreëerd dat op elk moment online kan worden gedeeld, opzettelijk of via kwaadaardige middelen zoals hacken.
Het is ook niet duidelijk waarom we de rechten van mannen op seksuele fantasie zouden moeten bevoorrechten boven de rechten van vrouwen en meisjes op seksuele integriteit, autonomie en keuze. Dit is gedrag zonder wederzijds goedvinden met een seksueel karakter. Noch de pornoartiest, noch de vrouw wier afbeelding in de porno is opgenomen, hebben ermee ingestemd dat hun afbeeldingen, identiteiten en seksualiteit op deze manier worden gebruikt.
De schepping gaat misschien over seksuele fantasie, maar het gaat ook over macht en controle, en de vernedering van vrouwen. Het gevoel van mannen dat ze recht hebben op vrouwenlichamen dringt door in de internetchatrooms waar geseksualiseerde deepfakes en tips voor het maken ervan worden gedeeld. Zoals bij alle vormen van seksueel misbruik op basis van afbeeldingen , gaat deepfake-porno over het vertellen aan vrouwen dat ze weer in hun hokje moeten kruipen en van het internet moeten gaan.
De wet verder brengen
Een wet die alleen de verspreiding van deepfake-porno strafbaar stelt, negeert het feit dat het zonder wederzijdse toestemming creëren van het materiaal op zich al een overtreding is. Het criminaliseren van de productie zou tot doel hebben deze praktijk bij de wortel te stoppen.
Hoewel er legitieme zorgen zijn over de overcriminalisering van sociale problemen, is er wereldwijd sprake van een ondercriminalisering van de schade die vrouwen ervaren, met name onlinemisbruik.
En hoewel het strafrecht niet de enige – of zelfs de belangrijkste – oplossing is voor seksueel geweld als gevolg van het aanhoudende falen van de politie en de rechterlijke macht , is het wel een mogelijkheid om verhaal te halen . Niet alle vrouwen willen aangifte doen bij de politie, maar sommige wel. We hebben ook nieuwe civiele bevoegdheden nodig om rechters in staat te stellen internetplatforms en daders te bevelen beelden te verwijderen en te eisen dat er waar nodig compensatie wordt betaald.
Het strafrecht legt niet alleen de basis voor onderwijs en cultuurverandering, maar kan ook grotere verplichtingen opleggen aan internetplatforms. Als het creëren van pornografische deepfakes onwettig zou zijn, zou het moeilijk zijn voor betalingsproviders om het deepfake-ecosysteem te blijven ondersteunen, moeilijk voor Google om deepfake-pornosites bovenaan de zoekresultaten te blijven plaatsen en moeilijk voor sociale-mediabedrijven zoals X (voorheen Twitter). ) of de app-winkels om reclame te blijven maken voor naakt-apps.
De realiteit van het leven met de onzichtbare dreiging van deepfake-seksueel misbruik dringt nu door tot vrouwen en meisjes. Mijn vrouwelijke studenten zijn verbijsterd als ze beseffen dat de student naast hen deepfake-porno van hen kan maken, hen kan vertellen dat ze dat hebben gedaan, dat ze het leuk vinden om ernaar te kijken – en toch kunnen ze er niets aan doen, het is niet onwettig.
Nu vrouwen hun diepe wanhoop delen dat hun toekomst in handen is van het “onvoorspelbare gedrag” en de “overhaaste” beslissingen van mannen, is het tijd dat de wet deze dreiging aanpakt.
