De grootste deepfake-pornowebsite is nu geblokkeerd in Groot-Brittannië

De meest bezochte deepfake-website ter wereld en een andere grote concurrerende site weerhouden mensen in Groot-Brittannië ervan om er toegang toe te krijgen, dagen nadat de Britse regering hardhandig optreden heeft aangekondigd.

Twee van de grootste deepfake-pornografiewebsites zijn nu begonnen met het blokkeren van mensen die vanuit Groot-Brittannië toegang proberen te krijgen tot deze websites. De stap komt dagen nadat de Britse regering plannen heeft aangekondigd voor een nieuwe wet die het creëren van niet-consensuele deepfakes strafbaar zal stellen.

Niet-consensuele deepfake-pornowebsites en -apps die kleding van foto’s ‘strippen’ zijn in een alarmerend tempo gegroeid , met onnoemelijke schade toegebracht aan de duizenden vrouwen die ze gewend zijn te targeten.

Clare McGlynn, hoogleraar rechten aan de Universiteit van Durham, zegt dat de stap een “enorm belangrijk moment” is in de strijd tegen deepfake-misbruik. “Dit maakt een einde aan de gemakkelijke toegang en de normalisatie van deepfake-materiaal over seksueel misbruik”, vertelt McGlynn aan de media.

Sinds deepfake-technologie voor het eerst opdook in december 2017, wordt deze consequent gebruikt om niet-consensuele seksuele beelden van vrouwen te creëren, waarbij hun gezichten worden verwisseld voor pornografische video’s of waardoor nieuwe ‘naaktbeelden’ kunnen worden gegenereerd. Naarmate de technologie is verbeterd en gemakkelijker toegankelijk is geworden, zijn er honderden websites en apps gemaakt. Recentelijk zijn schoolkinderen betrapt op het maken van naaktfoto’s van klasgenoten .

De blokkades op de deepfake-websites in Groot-Brittannië werden vandaag voor het eerst opgemerkt, waarbij twee van de meest prominente diensten op hun landingspagina’s mededelingen plaatsten dat ze niet langer toegankelijk zijn voor bezoekers uit het land. Men noemt de twee websites niet omdat ze misbruik mogelijk maken.

Een van de websites waarop de beperking van toepassing is, is de grootste deepfake-pornowebsite die momenteel bestaat. Bij een bezoek vanuit Groot-Brittannië wordt op de startpagina een bericht weergegeven waarin staat dat de toegang is geweigerd. “Vanwege wetten of (aankomende) wetgeving in uw land of staat zijn wij helaas verplicht u de toegang tot deze website te ontzeggen”, aldus het bericht. Het toont ook het IP-adres en het land van de bezoeker.

De andere website, die ook een app heeft, geeft een soortgelijke melding weer. “De toegang tot de dienst in uw land is geblokkeerd”, staat er, voordat wordt gesuggereerd dat er mogelijk manieren zijn om de geografische beperking te omzeilen. Het lijkt erop dat de websites geen beperkingen hebben voor bezoeken vanuit de Verenigde Staten, hoewel er in andere landen mogelijk ook beperkingen gelden.

Het is niet meteen duidelijk waarom de sites de locatieblokkeringen hebben ingevoerd en of ze dit hebben gedaan naar aanleiding van eventuele juridische bevelen of mededelingen. Ook is niet duidelijk of de blokkades tijdelijk zijn. Berichten die via e-mailadressen en contactformulieren naar de websites werden verzonden, bleven onbeantwoord. De makers van de websites hebben geen openbare berichten op de websites of hun sociale mediakanalen geplaatst over de blokkades.

Ofcom, de Britse communicatieregulator, heeft de macht om actie te ondernemen tegen schadelijke websites op grond van de controversiële, ingrijpende onlineveiligheidswetten van Groot-Brittannië die vorig jaar van kracht zijn geworden. Deze bevoegdheden zijn echter nog niet volledig operationeel en Ofcom overlegt er nog steeds over.

Het is waarschijnlijk dat de beperkingen het aantal mensen in Groot-Brittannië dat op zoek is naar of probeert deepfake-inhoud over seksueel misbruik aanzienlijk te beperken. Uit gegevens van Soortgelijkeweb, een bedrijf voor digitale inlichtingen, blijkt dat de grootste van de twee websites vorige maand wereldwijd 12 miljoen bezoekers had, terwijl de andere website 4 miljoen bezoekers had. In Groot-Brittannië hadden ze respectievelijk ongeveer 500.000 en 50.000 bezoekers.

Deze week hebben politici in Groot-Brittannië plannen aangekondigd voor een wet die het creëren van deepfakes zonder wederzijds goedvinden strafbaar stelt. Volgens de wet, die nog moet worden aangenomen, kunnen mensen een onbeperkte boete krijgen als ze deepfakes creëren om ‘het slachtoffer ongerustheid, vernedering of leed te bezorgen’. Dit bouwt voort op eerdere bepalingen die het voor mensen in Groot-Brittannië illegaal maken om geseksualiseerde deepfakes te delen .

“Hoewel het onduidelijk is of deze platforms de opdracht hebben gekregen om de toegang tot Groot-Brittannië te blokkeren of dit proactief hebben gedaan vanwege de recente criminalisering, laat het zien dat wetgeving een betekenisvol verschil kan maken bij het wegnemen van de juridische dubbelzinnigheid die veel deepfake-pornografieplatforms gebruiken als dekmantel voor de duidelijke ethische schade die ze veroorzaken”, vertelt Henry Ajder, een AI- en deepfake-expert, aan de media.

Ajder voegt eraan toe dat zoekmachines en hostingproviders over de hele wereld meer zouden moeten doen om de verspreiding en creatie van schadelijke deepfakes te beperken.

Hoewel de twee websites in Groot-Brittannië nog steeds toegankelijk zijn via een VPN, zijn de beperkingen een teken dat constante druk – van wetgevers, technologiebedrijven en campagnevoerders – het moeilijker kan maken om deepfake-porno toegankelijk te maken en te creëren. “Natuurlijk zullen mensen VPN kunnen gebruiken om toegang te krijgen tot deze websites en apps, maar dat zorgt voor wrijving”, zegt McGlynn van Durham University. “Het introduceert een boodschap dat er iets mis en schadelijk is aan dit materiaal, zodat je een VPN moet gebruiken om er toegang toe te krijgen.”

“Hopelijk”, voegt McGlynn eraan toe, “kan dit andere regeringen over de hele wereld laten zien dat als we stappen ondernemen, we de prevalentie van en de gemakkelijke toegang tot deepfake-materiaal over seksueel misbruik daadwerkelijk kunnen verminderen.”