Indignatie redactie 
Onschuldige sites worden van Google verwijderd vanwege verzoeken om verwijdering van auteursrechten vanwege de wijdverbreide OnlyFans-piraterij.
OnlyFans – Het internet wordt steeds moeilijker te gebruiken vanwege onbedoelde gevolgen in de strijd tussen makers van volwassen content die hun inkomen proberen te beschermen en de mensen die hun content illegaal kopiëren.
Pornopiraterij bestaat, net als alle vormen van contentpiraterij, al zo lang als het internet. Maar naarmate meer individuele makers hun brood verdienen met diensten zoals OnlyFans, hebben velen van hen bedrijven ingehuurd om verwijderingsverzoeken op grond van de Digital Millennium Copyright Act te versturen naar bedrijven die hun content stelen.
Nu sommige van deze diensten de werklast automatiseren, wordt volledig ongerelateerde content gemarkeerd als inbreuk op hun auteursrechten en uit Google-zoekresultaten verwijderd. Dit proces legt grotere problemen bloot met de manier waarop auteursrechtschendingen op internet worden afgehandeld, waarbij geautomatiseerde systemen verwijderingsverzoeken indienen die door andere geautomatiseerde systemen worden beoordeeld, wat tot onbedoelde gevolgen leidt.
Deze fouten tonen nog een manier waarop automatisering zonder menselijke controle het internet zoals we dat kennen steeds onbruikbaarder maakt. Ze benadrukken ook het onhoudbare piraterijprobleem voor makers van content voor volwassenen, die nauwelijks iets kunnen doen om te voorkomen dat hun betaalde content overal op internet wordt verspreid.
Ik merkte voor het eerst hoe slecht sommige van deze DMCA-verwijderingsverzoeken waren, omdat een ervan gericht was op 404 Media. Ik zocht op Google naar een artikel dat Sam had geschreven over de AI-therapeuten van Instagram . Ik googelde “AI-therapeuten 404 Media” en was verbaasd dat het niet verscheen, want ik wist dat we het onderwerp al hadden behandeld. Toen zag ik onderaan de pagina een bericht van Google dat Google enkele zoekresultaten had verwijderd “In reactie op meerdere klachten die we ontvingen op grond van de Amerikaanse Digital Millennium Copyright Act “.
De melding linkte naar de Lumen Database, die een overzicht bijhoudt van DMCA-klachten, wie deze heeft ingediend en waarvoor. Volgens de Lumen Database werd de klacht ingediend door een bedrijf genaamd Takedowns AI namens contentmaker Marie Temara. Takedowns AI is een van de vele bedrijven die contentmakers, met name makers van content voor volwassenen, helpen om het internet te scannen op afbeeldingen en video’s die ze achter betaalmuurtjes op platforms zoals OnlyFans hebben geplaatst en elders gratis hebben geplaatst.
Deze bedrijven dienen ook DMCA-verwijderingsverzoeken in en navigeren door de auteursrechtsystemen van grote platforms zoals YouTube, Instagram en Reddit. Een van de meest effectieve manieren om te voorkomen dat mensen deze illegale content vinden, is het sturen van DMCA-verwijderingsverzoeken naar Google met het verzoek aan de zoekmachine om resultaten te verwijderen van sites die deze content delen. Zoals de naam al doet vermoeden, is Takedowns AI sterk afhankelijk van automatisering om dit werk te doen.
De klacht die 404 Media aanging, bevatte een lijst met 68 links naar verschillende websites die naar verluidt Temara’s auteursrecht schonden op content die zij op Instagram, OnlyFans en andere platforms plaatste. Dit was de vermeende aanstootgevende link op 404 Media, een collage die Sam maakte voor haar verhaal over haar AI-therapeuten op Facebook.
De collage bevat Meta’s door AI gegenereerde profielfoto’s van drie van deze AI-therapeuten. Het verhaal zelf heeft niets met Temara te maken, en de profielfoto’s lijken totaal niet op haar. Sterker nog, het zou voor iedereen moeilijk zijn om auteursrecht op die afbeelding te claimen, want in 2023 oordeelde een Amerikaanse rechtbank dat door AI gegenereerde kunst niet auteursrechtelijk beschermd kan worden .
Ik heb alle andere links in dezelfde klacht doorgenomen en kon geen enkele link vinden die Temara’s auteursrechten leek te schenden. Er stonden afbeeldingen in van Grand Theft Auto V , beroemde honkbalspelers, robots, stockfoto’s van mensen in pretparken en filmposters, die allemaal niet op Temara leken. Naast het artikel van 404 Media over AI-therapeuten, heeft Google vanwege deze klacht onder andere de techsite wccftech.com , de horrorfilmsite bloody-disgusting.com en rugby- en worstelsites uit de zoekresultaten verwijderd.
Deze links zijn slechts een deel van één klacht uit de honderden die Takedowns AI dagelijks indient. Ik heb tientallen klachten van Takedowns AI bij Google doorgenomen die gearchiveerd zijn door de Lumen Database. De overgrote meerderheid lijkt legitiem, maar ik heb ook andere flagrante fouten gevonden.
Een van de ergste fouten die ik zag, was een verzoek tot verwijdering namens een maker die zich “honeyybee” noemt tegen een artikel over echte honingbijen op de website van de Universiteit van Missouri. Het verzoek tot verwijdering was duidelijk gericht op het artikel en zorgde ervoor dat Google het uit de zoekresultaten verwijderde, alleen omdat het ging over een onderwerp met een vergelijkbare naam als die van de klant van Takedown AI.
Temara en honeyybee hebben niet gereageerd op een verzoek om commentaar.
Kunal Anand, CEO van Takedowns AI, vertelde me dat het bedrijf sinds 2022 12 miljoen verwijderingsverzoeken bij Google heeft ingediend. Hij zei dat Takedowns AI gezichtsherkenning, zoekopdrachten op trefwoorden en menselijke reviewers gebruikt om auteursrechtelijk beschermde content te vinden en te verwijderen, en zei dat hij over het algemeen vertrouwen had in de nauwkeurigheid van het bedrijf. Anand vertelde me dat zijn klanten soms de API van Google Search gebruiken om te zien welke resultaten ze krijgen als ze zelf zoeken, en vervolgens Takedowns AI vragen om alles op die lijst te verwijderen zoals het is. Hij denkt dat dit ook met Temara en Honeyybee is gebeurd.
“We beoordelen de lijst niet echt, omdat we een agent voor hen zijn”, zei Ananad. “De verzoeken die we zelf versturen, worden meestal beoordeeld, maar soms voeren ze [klanten] zelf een zoekopdracht uit, komen ze content tegen en markeren die. Dan zeggen ze: ‘We willen dat dit verwijderd wordt.’ We beoordelen dat niet, omdat ze dat willen. Ik weet het niet zeker in dit geval, maar dat is wat er gebeurt.
Wat we van plan waren, was ook deze te beoordelen, maar dat levert meestal niet veel op, omdat de gebruiker er heel zeker van is dat hij of zij die claim wil. En zelfs als we zeggen: ‘Hé, we vinden dat je dat niet moet doen’, zeggen ze: ‘We willen het doen. Doe het gewoon omdat ik je hiervoor betaal.’ En als we gewoon zeggen: doe het zelf, dan ontneemt dat ons de business. Zo werkt het dus in principe.”
Nadat dit artikel voor het eerst was gepubliceerd, vertelde Anand me: “Wij treden op als hun agent bij het indienen van deze meldingen, maar dat moet niet worden opgevat als het willens en wetens indienen van valse of frauduleuze claims. Ons standaardproces omvat zowel geautomatiseerde als menselijke beoordeling, en de overgrote meerderheid van onze meldingen is legitiem.”
Anand zei dat Takedowns AI ook gratis een voorbeeld DMCA-melding aanbiedt, die sommige makers kopiëren en Takedowns AI zonder medeweten van Takedowns AI vermelden als het bedrijf dat de verwijdering aanvraagt. “Dat is niet wij die de meldingen versturen, maar ze komen toch in de Lumen-database terecht en worden aan ons toegeschreven”, zei hij.
Volgens het transparantierapport van Google over Takedowns AI wordt 96,8 procent van de meldingen van het bedrijf door Google geaccepteerd en verwijderd. Volgens Anand “toont dit duidelijk aan dat de overgrote meerderheid van onze inzendingen geldig is”.
Yvette van Bekkum, CEO van Cam Model Protection, een bedrijf dat dezelfde diensten aanbiedt als Takedowns AI maar al sinds 2014 actief is, vertelde me dat haar bedrijf geen verzoeken verwerkt zoals Anand voor klanten beschreef. Cam Model Protection gebruikt ook AI, omgekeerde zoekopdrachten naar afbeeldingen en zoekopdrachten op trefwoorden om inbreukmakend materiaal op te sporen, maar het bedrijf heeft systemen om valse positieven te voorkomen, vertelde Bekkum.
Deze omvatten een database met content die op de ‘witte lijst’ staat en waarvoor geen verwijderingsverzoeken mogen worden ingediend, en menselijke verificatie dat elke link die het bedrijf naar Google stuurt, daadwerkelijk verwijst naar inbreukmakende content.
“Een nieuwsartikel is geen inbreuk op het auteursrecht”, vertelde Bekkum me. “Als er geen content wordt gebruikt of alleen een naam wordt genoemd, hoef ik je niet uit te leggen dat het geen inbreuk is. Iedereen kan natuurlijk een fout maken, maar als je zomaar [links] verzamelt en het vervolgens meldt, en het is niet gebaseerd op een inbreuk, dan moet je het natuurlijk niet melden.”
Bekkum en Ananad zeggen beiden te begrijpen waarom makers niet op elke link willen klikken die mogelijk inbreuk maakt op hun auteursrecht. Het is niet alleen te veel werk – dat is immers de reden waarom bedrijven zoals Cam Model Protection überhaupt bestaan – het vereist ook dat ze een zee van pornografie doorspitten die ze niet willen zien.
“Dit proces is zo tijdrovend”, zei Bekkum. “En ze willen zich niet concentreren op al die negatieve energie van het googelen van hun naam en het zien van pagina’s vol links die naar illegale content leiden.”
Elaina St. James, een maker van content voor volwassenen, vertelde me dat ze een verwijderingsservice voor auteursrechten gebruikte en dat die vooral nuttig was toen ze zelf aanstootgevende sites aangaf. St. James zei dat ze de service gebruikte om illegale content te verwijderen en om accounts met haar afbeeldingen te catfishen, een probleem waar 404 Media eerder met haar over sprak . Over het algemeen zei St. James dat deze services nuttig, maar niet perfect zijn.
“Ik vind dat ze [de bedrijven die DMCA-verwijderingsverzoeken indienen] moeten stoppen met te veel beloven”, vertelde ze me in een e-mail. “Er zijn platforms – met name TikTok – die zich er niet aan houden. Ook buitenlandse websites voldoen daar zelden aan.”
De automatisering van DMCA-verwijderingsverzoeken bestaat al jaren en heeft altijd tot fouten geleid . Soortgelijke problemen teisteren ook YouTube’s geautomatiseerde Content ID- systeem al jaren. Meer sites zullen waarschijnlijk in de problemen komen, aangezien meer contentmakers hun eigen weg gaan en zich tot deze diensten wenden om hun inkomsten te beschermen.
Volgens Anand is Takedowns AI ook het doelwit geweest van valse DMCA-meldingen die namens het bedrijf zijn ingediend.
“Deze worden rechtstreeks bij Google ingediend in een poging onze reputatie te schaden”, vertelde hij me. “Dit is een fout in het proces van Google, dat de authenticiteit van de indiener onvoldoende verifieert. Het geeft ons onterecht de schuld wanneer kwaadwillenden het systeem misbruiken.”
Het is een kwestie die zich op het snijvlak bevindt van verschillende kritieke problemen met het moderne internet: het zoekmonopolie van Google, wijdverbreide pornopiraterij, een DMCA-verwijderingsproces dat kwetsbaar is voor fouten en misbruik, en nu de automatisering van al het bovenstaande om op grote schaal te kunnen opereren. Niemand met wie ik voor dit artikel sprak, dacht dat er een eenvoudige oplossing voor dit probleem bestond.
“Het is allemaal sciencefiction, maar dan wel op de meest stompzinnige manier”, vertelde Meredith Rose, senior beleidsadviseur bij Public Knowledge die zich richt op auteursrecht, DMCA en hervorming van intellectueel eigendom. “Uiteindelijk zijn de DMCA-verwijderingsbepalingen een manier om uitingen van het internet te verwijderen. Dat is een zeer krachtig instrument. Zelfs als je niet ronduit kwaadaardig bent, als iemand iets onaardigs over je zegt en je je naam niet in de mond wilt nemen, kun je dat dankzij de DMCA doen zonder dat iemand je werk controleert.
En dus is dit een heel interessante casestudy over hoe je deze tools bouwt die iedereen, zelfs mensen die misschien niet zijn wie ze zeggen te zijn in deze applicaties, de macht geven om dingen te verwijderen. Misbruik komt voor. Soms gebeurt het op grote schaal. Het gebeurt om allerlei verschillende redenen. Soms is het gewoon kwaadaardigheid, soms is het incompetentie, soms is het buggy automatisering […] Ik heb het gevoel dat we dit met AI veel meer gaan zien.”
Volgens Anand ligt de verantwoordelijkheid bij de makers.
“De beste manier om dat op te lossen is door de makers duidelijk te maken dat dit niet hun content is,” vertelde hij me. “Veel makers zijn erg bang en willen dat alles van hen, waar dan ook, wordt verwijderd. En dan worden ze steeds agressiever in hun verwijderingen.”
Anand verduidelijkte dat het bedrijf niet willens en wetens meldingen van te kwader trouw indient. “Hoewel geen enkel systeem perfect is, is het altijd onze missie geweest om makers op grote schaal te beschermen. We nemen nauwkeurigheid serieus en werken er constant aan om fouten te minimaliseren en tegelijkertijd de rechten van makers te respecteren.”
Een woordvoerder van Google vertelde mij dat de overgrote meerderheid van de DMCA-verwijderingen afkomstig is van verslaggevers die in het verleden terechte verwijderingen hebben uitgevoerd. Het DMCA-verwijderingsproces van Google streeft ernaar een balans te vinden tussen het voor rechthebbenden eenvoudig en efficiënt maken om inbreukmakende content te melden en het beschermen van de vrijheid van meningsuiting op internet.
“We bestrijden frauduleuze verwijderingspogingen actief door een combinatie van geautomatiseerde en menselijke controle te gebruiken om signalen van misbruik op te sporen”, aldus de woordvoerder van Google. “We bieden uitgebreide transparantie over deze verwijderingen om aanvragers ter verantwoording te roepen, en sites kunnen een tegenvordering indienen als ze van mening zijn dat een verwijdering ten onrechte is uitgevoerd.”
Update: Dit artikel is bijgewerkt met aanvullend commentaar van Kunal Anand nadat dit artikel werd gepubliceerd.
