Wetten lopen achter op de verspreiding van deepfake-porno, waardoor getroffen vrouwen, zoals Taylor Swift, weinig opties voor gerechtigheid hebben
- Deepfake pornobeelden van Taylor Swift bekeken door miljoenen
- AI-technologie stimuleert de wereldwijde verspreiding van vervalste video’s
- Beperkte wetgeving wereldwijd belemmert het nastreven van gerechtigheid
Deepfake – De wildvuurverspreiding van verzonnen pornobeelden van pop-megaster Taylor Swift heeft in de Verenigde Staten de roep aangewakkerd voor krachtige wetgeving om een explosie van deepfake-seksueel misbruik, mogelijk gemaakt door kunstmatige intelligentie, aan te pakken.
De beelden – waarbij Swifts gezicht op het lichaam van een andere vrouw werd geënt – trokken vorige week tientallen miljoenen views op sociale media in wat volgens een advocaat de grootste dergelijke zaak tot nu toe was.
Er is in de media gespeculeerd dat het muziekicoon van de miljardair juridische stappen zou kunnen ondernemen, maar gezien de beperkte wetgeving rond deepfake-pornografie is het niet duidelijk hoe ze dit zou kunnen doen.
Hier leest u welke wetten er zijn en waarom het zo moeilijk is om een zaak aan te spannen.
Hoe groot is het probleem van deepfake-porno?
Terwijl politici zich zorgen maken over de mogelijkheid dat verzonnen beelden en video’s de verkiezingen kunnen vertekenen , bestaat de overgrote meerderheid van de deepfakes uit vrouwenporno zonder wederzijds goedvinden.
De eerste van dergelijke clips werden in 2017 gedeeld op het socialemediaplatform Reddit. Er waren technische vaardigheden voor nodig en er waren talloze afbeeldingen van het gezicht van de beoogde vrouw nodig.
Tegenwoordig zijn er meerdere apps waarmee iedereen deepfakes kan maken met slechts één foto en zonder expertise.
“Ik noem het point-and-click-geweld tegen vrouwen. Zo gemakkelijk is het nu”, zegt Adam Dodge, advocaat en oprichter van online veiligheidsbedrijf EndTAB.
Het aantal vervalste video’s dat wordt gemaakt, is enorm gestegen.
Volgens onafhankelijk analist Genevieve Oh zijn er vorig jaar ruim 144.000 clips – ruim 14.000 uur aan beeldmateriaal – op de belangrijkste sites voor deepfake-porno geplaatst. Dit is meer dan het gezamenlijke totaal van alle voorgaande jaren.
Uit haar onderzoek blijkt dat deze sites sinds 2017 ruim 4,2 miljard keer bekeken zijn.
Is deepfake-porno illegaal?
Slechts een handvol landen heeft wetten rond deepfake-porno, hoewel geen enkele deze term gebruikt. Deze omvatten Australië, Zuid-Afrika en Groot-Brittannië, waar de nieuwe Online Safety Act een maximumstraf van twee jaar gevangenisstraf met zich meebrengt.
In Zuid-Korea, waar K-popsterren veelvuldig doelwit zijn, kan het produceren van deepfake-porno met winstoogmerk maximaal zeven jaar gevangenisstraf bedragen.
Colombia en Canada zijn onder andere landen die wetgeving overwegen.
De Verenigde Staten hebben geen federale wet. Ongeveer tien staten hebben een lappendeken van wetgeving ingevoerd, maar sommige, zoals Californië, hebben deepfake-porno niet gecriminaliseerd en voorzien alleen in civiele rechtszaken.
Vorige week omschreef het Witte Huis de Swift-zaak als “alarmerend” en woordvoerster Karine Jean-Pierre zei dat het Congres wetgevende maatregelen moest nemen .
Dinsdag heeft een tweeledige groep Amerikaanse senatoren een wetsvoorstel ingediend waarmee slachtoffers van deepfake-pornobeelden of -video’s degenen die deze produceren en distribueren, kunnen aanklagen.
Wat zijn de hindernissen bij het nastreven van gerechtigheid?
Een van de grootste problemen is ontdekken wie de clips heeft gemaakt met makers die virtuele particuliere netwerken (VPN’s) gebruiken om hun identiteit te verbergen.
Zelfs als de maker kan worden opgespoord, zal deze zich waarschijnlijk in een ander rechtsgebied bevinden, waardoor het onmogelijk kan worden hem te vervolgen.
Het is ook een uitdaging om de politie ervan te overtuigen een zaak serieus te nemen.
Sommige vrouwen die melding hebben gemaakt van deepfake-porno zeggen dat agenten hun klachten hebben weggelachen of hen hebben opgedragen hun computers uit te zetten.
Gezien de mondiale aard van het probleem zei rechtenorganisatie Equality Now dat landen moeten samenwerken en ervoor moeten zorgen dat wetten gepaard gaan met een goede training van handhavingsinstanties.
Bewijs is een ander obstakel. Voor de meeste vrouwen is de eerste prioriteit het verwijderen van de inhoud. Dit is geen gemakkelijke taak, maar als ze erin slagen het te verwijderen, verliezen ze het bewijs dat het bestond.
Amanda Manyame, expert op het gebied van digitale rechten van Equality Now, zei dat aanklagers, om een zaak aan te spannen, het platform nodig hebben om een certificaat af te geven waaruit blijkt dat de inhoud is geplaatst, maar dit kan niet worden gedaan als deze is verwijderd.
Campagnevoerders zeggen dat technologiebedrijven bewijsmateriaal moeten bewaren als ze materiaal van hun platforms verwijderen, maar technologiebedrijven zeggen dat dit in strijd kan zijn met de privacywetten.
Heeft iemand ooit een rechtszaak aangespannen wegens deepfake-porno?
Advocaten vertelden Context dat ze van geen enkel geval in de VS of elders op de hoogte waren.
Scarlett Johansson, een frequent doelwit van deepfakes, overwoog een paar jaar geleden juridische stappen, maar besloot daar niet mee verder te gaan.
De Amerikaanse advocaat Carrie Goldberg zei dat ze een aantal beroemdheden had geholpen om deepfake-materiaal te verwijderen, maar dat niemand naar de rechter was gestapt.
Civiele rechtszaken zijn duur, langdurig en kunnen averechts werken als de gedaagde een tegenvordering indient.
Een YouTuber, die de naam Gibi draagt, vertelde Context dat ze het ongelooflijk moeilijk vond om een rechtszaak aan te spannen tegen een man die deepfakes van haar en andere vrouwen had gemaakt, waaronder studenten van de universiteit waar hij naartoe ging.
Hoewel Gibi een berg bewijsmateriaal heeft verzameld, achtte ze het onwaarschijnlijk dat de zaak zou doorgaan.
“Het zou ongelooflijk veel tijd en geld kosten als je dit waarschijnlijk zou verliezen vanwege het gebrek aan wetten (hieromheen)”, zei ze.
Zelfs als de VS wetgeving zou invoeren, zeggen advocaten dat deepfake-slachtoffers nog steeds problemen zullen ondervinden bij het nastreven van gerechtigheid.
“Zelfs Taylor Swift zal niet in staat zijn iemand ter verantwoording te roepen die video’s maakt en deelt in een rechtsgebied buiten ons bereik”, aldus Dodge van EndTAB.
Welke wetten zou Swift kunnen gebruiken?
Het persteam van Swift kon niet onmiddellijk worden bereikt voor commentaar over de vraag of ze juridische stappen overweegt, maar als ze dat zou doen, zou haar aanpak afhangen van de staat waarin ze legaal woonde.
Volgens berichten in de media heeft de zanger huizen in Tennessee, New York en Californië.
Tennessee heeft geen wet rond deepfake-porno, maar New York en Californië wel.
Juridische experts zeggen dat doelwitten van deepfake-porno mogelijk ook andere wetgeving kunnen toepassen, waaronder wetten rond auteursrecht, laster, inbreuk op de privacy, verduistering van afbeeldingen en cyberstalking.
Maar dit is nog nooit in een rechtbank getest. In het geval van Swift zeiden advocaten dat de makers zouden kunnen beweren dat de afbeeldingen geen inbreuk op het auteursrecht vormden omdat ze zwaar waren gewijzigd.
Sommige commentatoren hebben gesuggereerd dat Swift X en andere sociale netwerken die de verspreiding van de beelden mogelijk maakten, zou kunnen aanklagen.
Maar advocaten zeggen dat technologiebedrijven in de VS grotendeels beschermd zijn tegen aansprakelijkheid voor informatie die door een derde partij wordt verstrekt op grond van Sectie 230 van de Communications Decency Act .
X heeft de afbeeldingen verwijderd en zelfs tijdelijk zoekopdrachten naar Taylor Swift geblokkeerd om de verspreiding ervan aan te pakken.
Advocaat Goldberg zei dat het vervolgen van de personen die de beelden hebben gemaakt niet alleen erg moeilijk zou zijn, maar ook weinig zou doen om het misbruik een halt toe te roepen.
Ze zei dat ze ervoor zou kiezen om de bedrijven aan te klagen die de apps hebben gemaakt en verkocht die zijn gebruikt om de deepfakes te maken, en voegde eraan toe dat het volkomen voorspelbaar was dat deze apps zouden worden gebruikt om mensen schade te berokkenen.
“Als ik Taylor’s advocaat was… zou ik kijken naar de aansprakelijkheid van deze gevaarlijke producten”, zei ze.
“We kunnen niet achter een miljoen mensen aan gaan die (de afbeelding) hebben gedeeld en verspreid, maar we kunnen wel achter de producten aangaan die zijn gebruikt om het te maken.”
(Rapportage door Emma Batha; redactie door Clar Ni Chonghaile.)