Indignatie redactie 
Makers van inhoud gebruiken auteursrechtwetten om niet-consensuele deepfakes van internet te verwijderen. Omdat de klachten betrekking hebben op bijna 30.000 URL’s, zeggen experts dat Google meer moet doen om te helpen.
Het aantal niet-consensuele deepfake-pornovideo’s online is sinds 2017 geëxplodeerd. Terwijl de schadelijke video’s zich hebben verspreid, hebben duizenden vrouwen – waaronder Twitch-streamers, gamers en andere makers van inhoud – een klacht ingediend bij de websites van Google die de video’s hosten en geprobeerd de technologiegigant te pakken te krijgen. om ze uit de zoekresultaten te verwijderen.
Uit een analyse van Indignatie van auteursrechtclaims met betrekking tot websites die deepfake-pornovideo’s hosten, blijkt dat er duizenden verwijderingsverzoeken zijn ingediend, waarbij de frequentie van klachten toeneemt. Er zijn bij Google ruim 13.000 auteursrechtklachten – waaronder bijna 30.000 URL’s – ingediend met betrekking tot inhoud op een tiental van de populairste deepfake-websites.
De klachten, die zijn ingediend op grond van de Digital Media Copyright Act (DMCA) , hebben ertoe geleid dat duizenden video’s zonder wederzijds goedvinden van internet zijn verwijderd. Twee van de meest prominente deepfake-videowebsites zijn elk het onderwerp geweest van meer dan 6.000 tot 4.000 klachten, zo blijkt uit gegevens gepubliceerd door Google en de Lumen-database van Harvard University . Op alle geanalyseerde deepfake-platforms resulteerde ongeveer 82 procent van de klachten in het verwijderen van URL’s van Google, zo blijkt uit de transparantiegegevens over auteursrechten van het bedrijf .
Miljoenen mensen vinden en openen deepfake-videowebsites door te zoeken naar deepfakes, vaak naast de namen van beroemdheden of makers van inhoud . WIRED noemt de specifieke websites niet om de blootstelling die zij ontvangen te beperken. Advocaten en bedrijven die deepfakes online bestrijden, onder meer door systematisch DMCA-klachten in te dienen, zeggen echter dat het aantal auteursrechtklachten en het hoge percentage verwijderingen een teken zijn dat Google meer actie moet ondernemen tegen de specifieke websites. Dit zou onder meer moeten inhouden dat ze volledig uit de zoekresultaten moeten worden verwijderd, zeggen ze.
“Als het enige doel van deze websites het misbruiken en manipuleren van iemands persoonlijke merk is, of het ontnemen van hun autonomie, of het hosten van eenvoudige wraakporno, zouden ze daar niet moeten zijn”, zegt Dan Purcell, de oprichter en CEO van Ceartas. , een bedrijf dat makers helpt hun inhoud te verwijderen wanneer deze zonder toestemming wordt gebruikt.
Alleen al voor de grootste deepfake-videowebsite heeft Google verwijderingsverzoeken ontvangen voor 12.600 URL’s, waarvan 88 procent offline is gehaald. Purcell zegt dat het technologiebedrijf, gezien de grote hoeveelheid aanstootgevende inhoud, moet onderzoeken waarom de site nog steeds in de zoekresultaten staat. “Als je 12.000 links verwijdert wegens inbreuk, waarom worden ze dan niet gewoon volledig verwijderd?” Hij voegt eraan toe: “Ze mogen niet worden gecrawld. Ze zijn niet van openbaar belang.”
In de vijf jaar sinds de niet-consensuele deepfake-pornovideo’s voor het eerst opdoken , zijn technologiebedrijven en wetgevers traag in actie gekomen. Tegelijkertijd hebben verbeteringen op het gebied van machine learning het gemakkelijker gemaakt om deepfakes te creëren. Tegenwoordig zijn er een paar soorten expliciete deepfake-inhoud: video’s waarin het gezicht van een persoon op bestaande pornografie met wederzijdse toestemming wordt geplaatst , apps die een persoon kunnen ‘uitkleden’ of zijn of haar gezicht kunnen verwisselen voor een naaktfoto, en generatieve AI die geheel nieuwe deepfake mogelijk maakt. er moeten afbeeldingen worden gemaakt, zoals de afbeeldingen van Taylor Swift die zich in januari online verspreidden .
Elke methode wordt – bijna altijd tegen vrouwen – ingezet om onder meer te vernederen, lastig te vallen of schaamte te veroorzaken . Julie Inman Grant, de Australische commissaris voor e-veiligheid, zegt dat er bij haar kantoor steeds meer deepfakes worden gemeld bij de op afbeeldingen gebaseerde klachtenregeling , naast andere door AI gegenereerde inhoud, zoals ‘synthetisch’ seksueel kindermisbruik en kinderen die apps gebruiken om geseksualiseerde video’s van hun klasgenoten. “We weten dat het een vorm van misbruik is die echt te weinig wordt gerapporteerd”, zegt Grant.
Naarmate het aantal video’s op deepfake-websites is toegenomen, hebben makers van inhoud, zoals streamers en modellen voor volwassenen, DMCA-verzoeken gebruikt. Dankzij de DMCA kunnen mensen die het intellectuele eigendom van bepaalde inhoud bezitten, verzoeken dat deze rechtstreeks van de websites of uit de zoekresultaten wordt verwijderd. Er zijn bij Google meer dan 8 miljard verwijderingsverzoeken ingediend, die betrekking hebben op alles van gaming tot muziek.
“De DMCA is historisch gezien een belangrijke manier geweest voor slachtoffers van seksueel misbruik op basis van afbeeldingen om hun inhoud van het internet te laten verwijderen”, zegt Carrie Goldberg, advocaat voor de rechten van slachtoffers. Goldberg zegt dat nieuwere strafwetten en civielrechtelijke procedures het gemakkelijker maken om op beelden gebaseerd seksueel misbruik te verwijderen, maar deepfakes compliceren de situatie. “Hoewel platforms doorgaans geen empathie hebben voor slachtoffers van privacyschendingen, respecteren ze wel de auteursrechtwetten”, zegt Goldberg.
Uit de analyse van Inignatie van deepfake-websites, waarbij veertien sites betrokken waren, blijkt dat Google de afgelopen jaren voor al deze sites DMCA-verwijderingsverzoeken heeft ontvangen. Veel van de websites hosten alleen deepfake-inhoud en richten zich vaak op beroemdheden. De websites zelf bevatten DMCA-contactformulieren waar mensen rechtstreeks kunnen verzoeken om inhoud te laten verwijderen, hoewel ze geen statistieken publiceren en het onduidelijk is hoe effectief ze zijn in het reageren op klachten.
Eén website zegt dat het video’s bevat van ‘actrices, YouTubers, streamers, tv-persona’s en andere soorten publieke figuren en beroemdheden’. Het host honderden video’s met “Taylor Swift” in de videotitel.
De overgrote meerderheid van de DMCA-verwijderingsverzoeken die zijn gelinkt aan deepfake-websites die in de gegevens van Google worden vermeld, hebben betrekking op twee van de grootste sites. Geen van beiden heeft gereageerd op schriftelijke vragen van Indignatie.
Het merendeel van de veertien websites had ruim 80 procent van de klachten die ertoe leidden dat inhoud door Google werd verwijderd. Sommige verwijderingsverzoeken vanwege auteursrechtschendingen die door individuen zijn verzonden, geven aan hoeveel leed de video’s kunnen veroorzaken. “Het wordt gedaan om mij te vernederen en te pesten”, zegt een verzoek. “Ik neem dit heel serieus en ik zal er alles aan doen om het te laten verwijderen”, zegt een ander.
“Het heeft zo’n enorme impact op iemands leven”, zegt Yvette van Bekkum, de CEO van Orange Warriors, een bedrijf dat mensen helpt gelekte, gestolen of zonder toestemming gedeelde afbeeldingen online te verwijderen, onder meer via DMCA-verzoeken. Van Bekkum zegt dat de organisatie een toename van deepfake-inhoud online ziet, en dat slachtoffers hindernissen ondervinden om naar voren te komen en te vragen dat hun inhoud wordt verwijderd. “Stel je voor dat je een sollicitatieproces doorloopt en mensen Googlen op jouw naam, en ze vinden dat soort expliciete inhoud”, zegt van Bekkum.
Google-woordvoerder Ned Adriance zegt dat het DMCA-proces ‘rechthebbenden’ in staat stelt hun werk online te beschermen en dat het bedrijf aparte tools heeft voor het omgaan met deepfakes – inclusief een apart formulier- en verwijderingsproces . “We hebben beleid voor niet-consensuele deepfake-pornografie, zodat mensen dit soort inhoud waarin hun beeltenis is opgenomen, uit de zoekresultaten kunnen laten verwijderen”, zegt Adriance. “En we zijn actief bezig met het ontwikkelen van aanvullende veiligheidsmaatregelen om mensen die getroffen zijn te helpen
.” Google zegt dat wanneer het een groot aantal geldige verwijderingen vanwege auteursrechtschendingen over een website ontvangt, het deze gebruikt als signaal dat de site mogelijk geen inhoud van hoge kwaliteit levert. Het bedrijf zegt ook dat het een systeem heeft ontwikkeld om duplicaten van niet-consensuele deepfake-porno te verwijderen zodra het één exemplaar ervan heeft verwijderd, en dat het onlangs zijn zoekresultaten heeft bijgewerkt om de zichtbaarheid van deepfakes te beperken als mensen er niet naar zoeken.
De DMCA is een onvolmaakt instrument, vooral als het om deepfakes gaat. Goldberg zegt dat er iemand nodig is die “op straffe van meineed” bevestigt dat hij de houder van het auteursrecht op de video of afbeeldingen is. “Maar het proces van het creëren van een deepfake kan het beeld zo sterk transformeren dat het resulterende beeld niet hetzelfde intellectuele eigendom is als de beelden waaruit het afkomstig is”, zegt Goldberg.
Uiteindelijk zou dit kunnen betekenen dat de persoon die de deepfake-video maakt, mogelijk de houder van het auteursrecht op de beledigende inhoud is. “Ons bedrijf pleit er al lang voor dat het auteursrecht op illegale werken moet terugvallen op de slachtoffers, zodat zij er controle over kunnen uitoefenen”, zegt Goldberg. “Maar de wet heeft nog geen inhaalslag gemaakt.”
Purcell, van Ceartas, zegt dat de wet “niet geschikt is voor het beoogde doel” en zeer “gemakkelijk kan worden bewapend” door deepfake-websites die tegenmeldingen indienen tegen DMCA-verzoeken. “Op dat moment is de enige optie om ze aan te klagen”, zegt Purcell, wat zijn eigen problemen oproept. De websites bevatten vaak geen contactgegevens of informatie over wie ze heeft gemaakt, en ze kunnen gevestigd zijn in landen met moeilijke wettelijke regimes. “Ze zullen er alles aan doen om anoniem te blijven. Ze zullen zich verstoppen”, zegt van Bekkum. “Ze gebruiken doelbewust offshore-hostingbedrijven.”
Grant, de Australische toezichthouder, zegt dat haar kantoor met technologieplatforms werkt en ook bevelen kan geven om inhoud te verwijderen. Het bureau heeft zich ook gericht op personen die video’s uploaden naar deepfake-websites. Vorig jaar achtervolgde Grants kantoor een man die afbeeldingen van Australische publieke figuren uploadde naar een van de grootste deepfake-websites. Hij kreeg de opdracht het materiaal te verwijderen en van zijn apparaten te verwijderen.
“Ik ben geen inwoner van Australië. De verwijderingsaankondiging betekent niets voor mij. Vraag een arrestatiebevel als je denkt dat je gelijk hebt”, mailde hij terug nadat hij het gerechtelijk bevel had ontvangen, blijkt uit gerechtelijke documenten . Maanden later vertelden grensfunctionarissen aan Grant dat de man Australië was binnengekomen, en hij werd uiteindelijk beschuldigd van minachting van de rechtbank .
Het incident was een zeldzaam voorbeeld van een toezichthouder of wetshandhavingsinstantie die succesvol actie ondernam tegen iemand die deepfakes creëerde. Adam Dodge, advocaat en oprichter van Endtab (Ending Technology-Enabled Abuse), zegt dat technologiebedrijven grotere onderwijsinspanningen op scholen en gemeenschappen moeten financieren over de schade van het creëren en delen van deepfakes, terwijl wetgevers wetten moeten invoeren die dat niet doen. de last van het verwijderen van inhoud op de schouders van de slachtoffers leggen.
“Het moet worden beschouwd als schadelijk, verwoestend en net zo belangrijk voor de internetveiligheid als andere vormen van verboden, crimineel of gereguleerd materiaal dat mensen weerzinwekkend en onaanvaardbaar vinden”, zegt Dodge.
