Een lagere ranking zal het deepfake-pornoprobleem van Google niet stoppen, zeggen slachtoffers

Het verwijderen van deepfake-porno zonder wederzijds goedvinden op Google is ‘uitputtend’, zegt het slachtoffer.

Na kritiek op het feit dat de zoekmachine van Google de belangrijkste verkeersbron voor deepfake-pornowebsites zou worden, is Google begonnen deze links in de zoekresultaten te begraven, meldde Bloomberg .

Het afgelopen jaar heeft Google miljoenen mensen naar controversiële sites geleid die door AI gegenereerde pornografie verspreiden waarin echte mensen worden afgebeeld in nep-seksvideo’s die zonder hun toestemming zijn gemaakt, zo ontdekte Soortgelijkeweb. Hoewel iedereen het doelwit kan zijn – de politie is al verzand in het omgaan met een stortvloed aan nep-AI-kinderseksbeelden – zijn vrouwelijke beroemdheden de meest voorkomende slachtoffers. En hun nep-, niet-consensuele, intieme beelden zijn gemakkelijker te vinden op Google door naar vrijwel elke bekende naam te zoeken met het trefwoord ‘deepfake’, merkte Bloomberg op.

Google noemt deze inhoud ‘onvrijwillige nep’ of ‘synthetische pornografie’. De zoekmachine biedt slachtoffers de mogelijkheid om die inhoud te melden wanneer deze in de zoekresultaten verschijnt. En bij het verwerken van deze verzoeken verwijdert Google ook duplicaten van gemarkeerde deepfakes.

De woordvoerder van Google vertelde Ars dat Google, naast het verlagen van de links in de zoekresultaten, “de zichtbaarheid van onvrijwillige synthetische pornografie in Search blijft verminderen” en van plan is “meer waarborgen te ontwikkelen naarmate deze ruimte evolueert.”

“We hebben actief nieuwe beschermingsmaatregelen in Zoeken ontwikkeld om mensen te helpen die door deze inhoud worden getroffen, voortbouwend op ons bestaande beleid”, aldus de woordvoerder van Google.

Het afgelopen jaar hebben sommige slachtoffers echter kritiek geuit op het proces van Google voor het verwijderen van deepfakes als omslachtig. Kaitlyn Siragusa, een Twitch-gamer met een expliciete OnlyFans, vertelde Bloomberg in 2023 dat ze, als frequent doelwit van deepfakes, ontdekte dat het verzoeken om verwijdering van elke deepfake-link “een tijd- en energieverslindend proces” is.

Google ‘Het is een voortdurende strijd’, zei Siragusa.

In reactie op het feit dat Google deepfakes naar beneden haalt, vertelde Carrie Goldberg – een advocaat die slachtoffers vertegenwoordigt wier seksueel materiaal zonder toestemming online wordt verspreid – aan Bloomberg dat de nieuwste update van Google ‘het absolute minimum’ doet.

Voor de slachtoffers komt het er op neer dat er nog steeds problematische links in de zoekresultaten van Google verschijnen voor iedereen die wil blijven scrollen, en dat het opzettelijk zoeken naar ‘deepfake’ je naar de meest populaire sites zal verwijzen die vervolgens kunnen worden doorzocht.

Dus hoewel het Amerikaanse zoekverkeer naar de twee populairste deepfake-pornosites met maar liefst 25 procent is afgenomen “in de eerste tien dagen van mei vergeleken met het gemiddelde van de voorgaande zes maanden”, meldde Bloomberg, hebben de slachtoffers nog steeds moeite om aan het werk te komen. met Google om de verspreiding te stoppen.

“Google heeft levens geruïneerd en is beschamend inflexibel in het reageren op zich ontwikkelende problemen”, zei Goldberg, die zich bij anderen aansloot en de stap van Google bestempelde als “te weinig, te laat.”

De oplossing van Google legt nog steeds grotendeels de verantwoordelijkheid bij slachtoffers om deepfakes aan het licht te brengen en verwijdering aan te vragen, schijnbaar vooral omdat Google webresultaten alleen proactief verwijdert wanneer inhoud rechtstreeks in strijd is met de wet of het inhoudsbeleid ervan.

Dat omvat onder meer het verwijderen van materiaal over seksueel misbruik van kinderen, spam of persoonlijke informatie die kan worden gebruikt om iemand te doxen. Maar deepfake-porno blijft juridisch gezien een grijs gebied, en daarom kan iedereen de populairste zoekmachine ter wereld gebruiken om door AI gegenereerde, niet-consensuele, intieme beelden naar boven te halen wanneer hij maar wil. En hoewel het verlagen van de ranking het misschien moeilijker maakt om deepfakes-porno aan het licht te brengen voor informele websurfers, maakt het het aantoonbaar ook moeilijker en zelfs nog tijdrovender voor slachtoffers die vastzitten op zoek naar hun deepfakes om deze te melden en te verwijderen.

Sommige staten hebben deepfakes verboden, maar tot nu toe is er geen federale wet die Google ertoe zou kunnen aanzetten proactiever te zijn bij het verwijderen van links.

Dat zou kunnen veranderen als Francesca Mani, een slachtoffer van de middelbare school, haar zin krijgt . Ze steunt de ‘Preventing Deepfakes of Intimate Images Act’, die deepfake-porno wil criminaliseren en schadevergoedingen oplegt die kunnen oplopen tot $150.000 en een gevangenisstraf van maximaal tien jaar als het delen van de beelden geweld mogelijk maakt of de procedures van een overheidsinstantie beïnvloedt.

Die wetgeving werd deze maand geïntroduceerd in het Amerikaanse Huis van Afgevaardigden en is doorverwezen naar de rechterlijke commissie, die jurisdictie heeft over wetshandhavingsinstanties.

“Ik sta hier op en roep om verandering, vecht voor wetten, zodat niemand anders zich zo verloren en machteloos hoeft te voelen als ik”, zei de 14-jarige Mani toen de wetgeving werd ingevoerd.

Hoewel het verspreiden van deepfake-porno de schade vergroot, vinden sommigen dat het überhaupt een misdaad zou moeten zijn om schadelijke beelden te maken. Het Verenigd Koninkrijk overweegt wetgeving die een “onbeperkte boete” en mogelijke gevangenisstraf oplegt alleen voor het maken van deepfake-afbeeldingen, zelfs als iemand nooit van plan is de afbeeldingen te delen, meldde Time .

Totdat er juridische duidelijkheid is voor deepfake-slachtoffers, blijft de wettelijke basis voor het verzoeken om verwijdering uit de zoekresultaten van Google ‘wankel’, schreef Nina Jankowicz, een desinformatieonderzoeker en deepfake-slachtoffer, in The Atlantic.

Voor de slachtoffers lijkt het erop dat geen enkele oplossing ver genoeg gaat om een ​​einde te maken aan de aanhoudende deepfake-intimidatie.

Volgens Jankowicz zal het aannemen van de federale wet ‘het deepfake-probleem niet oplossen’, omdat ‘het internet voor altijd is’, ‘AI met de maand krachtiger wordt’ en gebruikers die deze inhoud genereren ‘opmerkelijk nonchalant zijn over de inbreuk op de privacy. zij plegen.”

“Terwijl beleidsmakers zich zorgen maken of AI de wereld zal vernietigen, smeek ik hen: laten we eerst de mannen stoppen die het gebruiken om vrouwen in diskrediet te brengen en te vernederen”, schreef Jankowicz.

Naast het aanpassen van wetten en het terugdringen van de online verspreiding is er ook een cultuuromslag nodig om het misbruik te beëindigen, suggereert Jankowicz. Zoals het er nu voorstaat, is deepfake-porno “een gewaardeerd wapen geworden in het arsenaal dat vrouwenhaters gebruiken om vrouwen uit het openbare leven te verdrijven”, schreef Jankowicz.