Indignatie redactie 
Deepfakes van Taylor Swift: een rechtszaak van de zanger zou andere slachtoffers van AI-pornografie kunnen helpen
Deepfakes Tussen haar recordbrekende Eras-tournee en het aanmoedigen van haar NFL-ster-vriend Travis Kelce, maakt Taylor Swift zich misschien op voor een historische juridische strijd over AI-pornografie. Swift bereidt zich naar verluidt voor om actie te ondernemen tegen distributeurs van ‘deepfake’-afbeeldingen van haar.
Obscene afbeeldingen van Swift begonnen op 25 januari te circuleren op X (voorheen Twitter). De afbeeldingen, die fans omschrijven als ‘walgelijk’ , zijn naar verluidt afkomstig van een Telegram-groep die zich toelegt op het genereren van kunstmatige pornografische inhoud van vrouwen. Ze waren ongeveer 17 uur live en werden meer dan 45 miljoen keer bekeken voordat ze werden verwijderd. X blokkeerde tijdelijk zoekopdrachten naar de naam van Swift in een poging te voorkomen dat andere gebruikers de afbeeldingen delen.
Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…
— Safety (@Safety) January 26, 2024
Als reactie daarop heeft een groep Amerikaanse senatoren een wetsvoorstel ingediend om de verspreiding van door AI gegenereerde, niet-consensuele seksuele beelden strafbaar te stellen.
Er bestaat momenteel geen federale wet in de VS tegen deepfake-inhoud. Dergelijke wetgeving is besproken , maar vooral als reactie op het gebruik van generatieve AI in politieke desinformatie.
Maar totdat er een wet is aangenomen, zijn de verhaalsmogelijkheden van Swift beperkt . Ze zou het bedrijf dat verantwoordelijk is voor de technologie kunnen aanklagen, of eventueel een civiele procedure kunnen aanspannen tegen de makers of distributeurs van de beelden. Microsoft, wiens software naar verluidt werd gebruikt om de afbeeldingen te maken, heeft al beperkingen toegepast om te voorkomen dat soortgelijke afbeeldingen worden gegenereerd.
De impact van seksueel misbruik op basis van beelden
De zaak van Swift is spraakmakend vanwege haar status als beroemdheid, maar door AI gegenereerde pornografie en deepfakes vormen een snel groeiend probleem naarmate de technologie toegankelijker wordt . Het duurt nu slechts 25 minuten en kost niets om kunstmatige pornografie te maken.
Bijna alle deepfake-inhoud is pornografisch van aard en toont bijna altijd vrouwen. Hoewel beroemdheden vaak het doelwit zijn, is de realiteit dat iedereen met jouw afbeelding gemakkelijk pornografische afbeeldingen kan maken met jouw beeltenis.
Hoewel de afbeeldingen nep kunnen zijn, is de schadelijke impact van deze ervaring zeer reëel. Onderzoek naar het zonder wederzijds goedvinden delen van pornografische of intieme beelden heeft de gevoelens van schending en schaamte van slachtoffers gedocumenteerd. Angst, depressie en PTSS zijn veelvoorkomende gevolgen van deze ervaring.
Omdat slachtoffers vaak zichzelf de schuld geven of de schuld van anderen ervaren , kan het moeilijk zijn om verder te gaan. Bovendien betekent het digitale karakter van het delen van seksuele beelden dat slachtoffers voortdurend in angst moeten leven dat hun foto steeds opnieuw wordt gedeeld.
Acteur Jennifer Lawrence en televisiepersoonlijkheid Georgia Harrison , beiden beroemde slachtoffers van op beelden gebaseerd seksueel misbruik, hebben besproken hoe hun status als beroemdheid de schaal en reikwijdte van hun eigen ervaringen heeft vergroot.
Deepfake-porno en andere vormen van digitaal seksueel misbruik worden vanwege hun online karakter soms afgedaan als ‘minder’ kwaad dan fysieke aanranding. Een spraakmakende zaak als die van Swift zou de aandacht kunnen vestigen op de werkelijke impact van deze beelden op de slachtoffers.
Dat het niet ‘echt’ haar lichaam is, doet niets af aan de ernst. Onderzoek toont aan dat de ‘pornificatie’ van niet-gedurfde foto’s met behulp van Photoshop of AI net zo schadelijk kan zijn voor de afgebeelde persoon. De bedoeling achter deze beelden is niet louter seksueel; de degradatie en vernedering van het slachtoffer is een evenzeer gewenst resultaat.
Wat zegt de Deepfakes wet in Groot-Brittannië?
Via de Online Safety Act stelt de Britse wet nu de distributie (maar niet de creatie) van digitaal gemaakte of gewijzigde intieme afbeeldingen strafbaar .
Hoewel de verandering door de actievoerders is verwelkomd , zijn er nog steeds barrières die slachtoffers ervan weerhouden gerechtigheid te zoeken.
Net als bij seksueel geweld in bredere zin, worden incidenten waarbij seksuele beelden zonder wederzijds goedvinden worden gedeeld, vaak niet gerapporteerd. Wanneer ze worden gemeld, kan een slechte reactie van de politie de schade vergroten.
Het aantal vervolgingen is laag, vaak als gevolg van gebrek aan bewijs of doordat slachtoffers hun steun intrekken . Een gebrek aan begeleiding van agenten, geen garantie voor anonimiteit of angst voor repercussies van de dader zijn slechts enkele van de factoren die ertoe kunnen leiden dat iemand besluit een zaak niet af te ronden.
Een verslag van de strijd tegen seksisme
Dit zou niet de eerste keer zijn dat Swift juridische stappen onderneemt tegen vrouwenhaat. In 2017 won ze haar claim tegen een voormalig radio-dj die haar betastte tijdens een meet-and-greet. Ze eiste een schadevergoeding van slechts $ 1 (79p) en verklaarde dat ze de zaak wilde gebruiken om een standpunt in te nemen tegen seksueel geweld .
Hoewel Swifts beroemdheidsstatus haar tot doelwit heeft gemaakt, brengt haar bekendheid voordelen met zich mee die veel slachtoffers van seksueel geweld niet hebben, zoals ze opmerkte in de nasleep van haar proces in 2017 . Haar platform, rijkdom en invloed gaven haar de middelen om zich uit te spreken waar anderen dat niet kunnen.
Het ‘Taylor Swift-effect’ heeft bewezen een krachtige economische kracht te zijn . Als ze ervoor kiest om actie te ondernemen tegen de makers van de beelden, zou dit een mijlpaal kunnen zijn in de strijd tegen kunstmatige pornografie. Het vergroten van het publieke bewustzijn zou slachtoffers alleen maar kunnen aanmoedigen en druk kunnen uitoefenen op bestuursorganen over de hele wereld voor een betere handhaving van de wet.
Deepfakes wet Nederland
Een deepfake is een filmpje of geluidsfragment dat is bewerkt door een algoritme. Hierdoor lijkt het alsof iemand iets heeft gezegd of gedaan, wat in werkelijkheid nooit is gebeurd. Deepfakes zijn vaak niet van echt te onderscheiden. Zo kunnen de premier van een land woorden in de mond worden gelegd. Of kan iemand in een pornofilmpje terechtkomen.
Een deepfake maken en delen
Maakt u een deepfake en deelt u deze alleen met een beperkte kring mensen, zoals uw familieleden, vrienden of de persoon in de deepfake? Dan is de Algemene verordening gegevensbescherming (AVG) niet van toepassing en mag u de deepfake maken en delen. U heeft dan ook geen toestemming nodig. Maar let op: voor deze uitzondering in de AVG gelden strikte voorwaarden.
Wilt u de deepfake delen met mensen buiten deze persoonlijke kring? Dan moet u zich houden aan de regels in de AVG. U moet dan bijvoorbeeld een grondslag hebben. En u moet altijd vermelden dat het om een deepfake gaat. Bijvoorbeeld door te verwijzen naar het originele beeldmateriaal.
Let op: naast de AVG kunnen nog andere wetten en regels van toepassing zijn. Denk bijvoorbeeld aan het portretrecht van degene die in de deepfake te zien is. Ook mag u geen deepfakes verspreiden die de afgebeelde persoon schaden.
Een deepfake laten verwijderen
Is uw gezicht of lichaam herkenbaar in een deepfake te zien? Dan verwerkt de maker van de deepfake uw persoonsgegevens. De maker van een deepfake moet zich houden aan de regels in de AVG. Tenzij de deepfake alleen in persoonlijke kring wordt gedeeld. Dan is de AVG niet van toepassing.
Bent u zonder uw toestemming in een deepfake te zien? En wordt de deepfake breed of openbaar gedeeld? Dan kunt u een aantal dingen doen.
De maker vragen de deepfake te verwijderen
U heeft het recht om uw gegevens te laten verwijderen. Dat betekent dat u de maker kunt vragen om de deepfake te verwijderen. U kunt hiervoor de voorbeeldbrief verwijderen persoonsgegevens van de AP gebruiken.
In de meeste gevallen zal de maker verplicht zijn om de deepfake te verwijderen als u dit vraagt. Het gaat bij deepfakes namelijk om een vorm van nepbeelden, die we kunnen zien als onjuiste persoonsgegevens. Dat gaat in tegen de AVG. Bovendien zal uw belang waarschijnlijk zwaarder wegen dan het belang van de maker van de deepfake.
Een platform vragen de deepfake te verwijderen
Weet u niet wie de deepfake heeft gemaakt, maar komt u de deepfake wel tegen op internet? Dan kunt u aan het platform waarop de deepfake staat vragen om de deepfake te verwijderen.
U kunt daarbij aangeven dat u wilt dat het platform uw verzoek aan andere websites en zoekmachines doorgeeft, zodat ook daar de deepfake wordt verwijderd.
Deepfakes Een klacht indienen
Krijg u geen reactie van de maker of het platform? Of weigert de maker of het platform uw verzoek? Dan kunt u een klacht indienen bij de AP.
Deepfakes Naar de rechter stappen
Heeft u schade opgelopen door de deepfake? Dan kunt u ook proberen om de maker van de deepfake aansprakelijk te stellen. Daarvoor gaat u naar de rechter.
Seksuele deepfake zonder toestemming
Het is verboden om zonder toestemming seksuele afbeeldingen van iemand te maken en delen. Ook volgens de AVG. U kunt hiertegen een aantal stappen ondernemen.
Ten eerste kunt u aangifte doen bij de politie. Dit kan ook als u niet weet wie de beelden heeft gemaakt.
Ook heeft u op grond van de AVG het recht om de maker van de deepfake of het platform waar de deepfake gedeeld is te vragen om de deepfake te verwijderen, zoals hierboven beschreven. Zij moeten meewerken aan uw verzoek, omdat het gaat om een illegale afbeelding.
Mocht een platform niet meewerken, dan kunt u bij de AP een klacht indienen over het platform. Ook kunt u een procedure bij de rechter starten tegen de maker van de deepfake of tegen het platform, om medewerking te eisen. In sommige gevallen is het dan ook mogelijk om een spoedprocedure (kort geding) te starten.
Deepfakes van bekende personen
Voor een bekende Nederlander (BN’er) gelden dezelfde regels als voor een niet-bekende Nederlander.
Wel zijn bekende personen vaker onderdeel van het maatschappelijk debat. Als zij naar de rechter stappen, zal die daarom een afweging maken tussen het belang van de bekende persoon en het belang van de maker van de deepfake (waaronder vrijheid van meningsuiting, zoals satire).
