Zonder miljoenen datawerkers zou noch de zogenaamde kunstmatige intelligentie, noch de moderatie van inhoud werken. In een nieuw project vertellen ze hun verhalen: van platformwerkers in Venezuela en Syrië tot medewerkers van outsourcingbedrijven in Kenia tot contentmoderators in Europa.
AI Het initiatief “Data Workers’ Inquiry” gaat vandaag van start . In het gezamenlijke project van het Weizenbaum Instituut, de Technische Universiteit van Berlijn en het Distributed AI Research Lab rapporteren werknemers achter zogenaamde kunstmatige intelligentie en contentmoderatie over hun werk- en leefwereld. De rapporten omvatten teksten, video’s, podcasts, maar ook strips en zines.
We vroegen mede-initiatiefnemer Milagros Miceli wat we uit de onderzoeken kunnen leren. Miceli is socioloog en computerwetenschapper. Ze leidt een team bij het Berlin Weizenbaum Institute en doet al jaren onderzoek naar het werk achter AI-systemen, inclusief data-annotatie.
Zo wordt het genoemd als mensen datasets doorzoeken, sorteren en labelen zodat machines ze kunnen begrijpen. Voordat beeldherkenning bijvoorbeeld een foto van een kat kan herkennen, moeten mensen rijen en rijen afbeeldingen met katten labelen. Met dergelijke datasets kunnen AI-systemen vervolgens worden getraind.
“De datawerkers worden behandeld als wegwerpartikelen”
IndignatieAI: Wat doen datawerkers eigenlijk en welk belang hebben zij voor het functioneren van de digitale wereld?
Milagros Miceli: Datawerkers zijn essentieel voor het ontwikkelen en onderhouden van de populairste platforms en systemen die we gebruiken. Er is geen AI zonder het werk dat gepaard gaat met het verzamelen, opschonen, annoteren en algoritmisch beoordelen van gegevens.
Zonder het voortdurende werk van contentmoderators die sociale mediaplatforms, maar ook zoekmachines en tools zoals ChatGPT, bruikbaar maken, zouden we deze systemen niet kunnen gebruiken zonder ernstige psychologische schade te lijden: als we ChatGPT nog steeds zouden gebruiken, als alle antwoorden doorspekt waren met beledigingen? Zouden we nog op sociale media zitten als we regelmatig afbeeldingen van geweld zouden tegenkomen?
IndignatieAI: Welke rol speelt outsourcing in deze sector?
Milagros Miceli: Menselijke arbeid is een noodzakelijk onderdeel van de cyclus van het genereren en maximaliseren van toegevoegde waarde. Maar om dit te laten gebeuren, moet arbeid beschikbaar en goedkoop zijn. Daarom vertrouwen de meeste technologiegiganten op platforms en bedrijven die tegen lage kosten 24/7 extern personeel beschikbaar stellen.
De indrukwekkende vooruitgang van AI-technologieën die we de afgelopen tien jaar hebben gezien, hangt samen met de opkomst van dataarbeidsplatforms en -bedrijven. De bloei begon twintig jaar geleden met de oprichting van Amazon Mechanical Turk . Het Mechanical Turk-model maakte een groot aantal werknemers wereldwijd op elk moment en tegen betaalbare prijzen beschikbaar.
IndignatieAI In het Data Workers’ Inquiry rapporteren datawerkers uit zeer verschillende werkcontexten en regio’s van de wereld. Onder hen zijn platformwerkers in Venezuela en Syrië, medewerkers van outsourcingbedrijven in Kenia en ook contentmoderators in Duitsland. Bestaat er zoiets als een universele ervaring die ze allemaal delen?
Milagros Miceli: De meeste datawerkers hebben een paar dingen gemeen: ze worden niet betaald voor hun tijd, maar alleen voor voltooide taken. Ze ontvangen doorgaans een mager uurloon van slechts $2 in Kenia of $1,7 in Argentinië. Ze hebben geen arbeidsrechten of andere bescherming. En ze worden blootgesteld aan toezicht en de willekeur van klanten en platforms. In veel gevallen dragen zij ook langdurige psychische problemen over van hun werk.
De meeste datawerkers zijn onderworpen aan vertrouwelijkheidsovereenkomsten die hen beletten met anderen te praten over wat er aan de hand is. We hebben gevallen gezien waarin werknemers geen psychologisch of juridisch advies hebben ingewonnen, omdat hen is verteld dat dit zou betekenen dat de vertrouwelijkheidsovereenkomsten die zij met hun werkgevers hebben, worden verbroken.
Vooral in het mondiale zuiden zijn er structurele afhankelijkheden die werknemers geen andere keuze laten dan dergelijke arbeidsomstandigheden te accepteren. Vooral op plaatsen met een hoge werkloosheid worden werknemers behandeld als wegwerpartikelen. Het outsourcingmodel biedt bedrijven ook de mogelijkheid om hun verantwoordelijkheid te ontlopen. Wanneer zich problemen voordoen, voelt niemand zich verantwoordelijk voor het welzijn van de werknemers en worden zij met rust gelaten.
De datawerkers moeten hun zegje doen
IndignatieAI: De prestaties van datawerkers achter AI en contentmoderatie worden vaak onzichtbaar gemaakt. De auteurs Mary Gray en Siddharth Suri spreken daarom ook van ‘spookwerk’ . Hoe wil het Data Workers’ Inquiry daar verandering in brengen?
Milagros Miceli: Dit ‘spookwerk’ zichtbaar maken, licht werpen op de problemen waarmee werknemers worden geconfronteerd en het publieke bewustzijn vergroten zijn belangrijke doelstellingen van ons project. Het Data Workers’ Inquiry belichaamt echter een engagement dat verder gaat dan abstracte ‘sensibilisatie’ in de zin van academici en journalisten die over werknemers praten. Onze aanpak is het versterken van de stemmen van de werknemers en hun politieke eisen.
Bij het ontwerpen van dit project en de methodologie was het voor mij heel belangrijk dat we niet langer voor en over de werknemers spreken. In plaats daarvan wilden we een platform creëren waar ze voor zichzelf konden spreken en hun zorgen onder woorden konden brengen.
IndignatieAI: Hoe ziet dat er in de praktijk uit?
Milagros Miceli: We nodigen datawerkers uit om het voortouw te nemen, zowel bij het beslissen welke onderwerpen en vragen zij urgent vinden als bij het kiezen van het medium en format. Hun diversiteit spreekt voor zich: er zijn podcasts, documentaires, animaties, strips, zines en essays. De meeste formaten zijn specifiek gekozen om een breder publiek te bereiken dat niet noodzakelijkerwijs academische artikelen leest.
We hopen ook dat de dialoog- en netwerkmogelijkheden van het project de werknemersorganisatie kunnen versterken en tot positieve verandering kunnen leiden. Het gaat er dus niet alleen om dat de medewerkers ons informeren, maar ook dat ze met elkaar praten en zichzelf organiseren.
IndignatieAI: De deelnemende datawerkers fungeren als ‘gemeenschapsonderzoekers’ in het project. Wat betekent dat?
Milagros Miceli: Dit betekent dat ze onderzoek doen in hun eigen werkgemeenschappen of op hun werkplek als leden van de gemeenschap, dat wil zeggen vanuit een insiderperspectief. Wij richten ons op hun ervaringen en erkennen hun unieke kennis. In mijn carrière heb ik ongeveer 100 interviews afgenomen met datawerkers over de hele wereld. Ik zal echter nooit weten hoe het voelt om afhankelijk te zijn van dit werk en slecht behandeld te worden door klanten. Dit is iets wat alleen de arbeiders weten.
Alle gemeenschapsonderzoekers ontwikkelen hun eigen onderzoeksvragen, ontwerpen en voeren hun eigen onderzoeken uit, en bereiden presentaties van hun resultaten voor. Ze praten met hun collega’s en andere gegevensverwerkers en communiceren ook voortdurend met ons. Zo adviseren wij u over het verzamelen van gegevens en het structureren van het proces. Het is onze taak om hen een platform te bieden.
“De werknemers riskeren veel”
IndignatieAI: Hoe komt deze aanpak tot uiting in de rapporten die u publiceert?
Milagros Miceli: Wanneer gemeenschapsonderzoekers andere werknemers interviewen, weten ze wat en hoe ze moeten vragen. Door hun gedeelde ervaringen vertrouwen ze elkaar onmiddellijk. Mooie voorbeelden hiervan zijn de podcasts en documentaires op onze website. Of het zine over Afrikaanse vrouwen in contentmoderatie , waarin arbeidsmigranten hun ervaringen delen met psychologisch, economisch en seksueel misbruik bij het bedrijf Sama in Kenia.
Of het hartverscheurende rapport dat de geestelijke gezondheidsproblemen van Meta’s contentmoderators onderzoekt. Dit zijn allemaal goede voorbeelden van het ondersteunen van gemeenschapsleden bij het delen van hun persoonlijke verhalen.
IndignatieAI: Je hebt het al genoemd: in de regel moeten datawerkers vertrouwelijkheidsclausules ondertekenen, zogenaamde geheimhoudingsovereenkomsten, of kortweg NDA’s. In het Data Workers’ Enquiry noemen veel werknemers echter hun werkgevers, en sommigen gebruiken zelfs hun echte naam. Welk risico nemen ze?
Milagros Miceli: Het schenden van geheimhoudingsverklaringen kan zeer ernstige gevolgen hebben voor werknemers. Vorig jaar werd een presentator bij Telus International in Essen , Duitsland, ontslagen vanwege zijn verklaring over de arbeidsomstandigheden in de Bondsdag. Dit betekent niet alleen inkomensverlies, maar kan ook resulteren in het verlies van visa of verblijfsvergunningen voor de vele migranten die voor hun legale status afhankelijk zijn van dit werk.
Niettemin spreken onze gemeenschapsonderzoekers zich uit. Dit laat zien hoe belangrijk het voor de auteurs is om een groot publiek te bereiken. Ze zijn ongelooflijk moedig en hopen natuurlijk dat hun verhalen gehoord zullen worden.
Hun betrokkenheid laat zien hoeveel vertrouwen ze in het project hebben. Wij nemen de verantwoordelijkheid die hiermee gepaard gaat niet lichtvaardig op. We hebben alle gemeenschapsonderzoekers de mogelijkheid geboden om anoniem te blijven en de bedrijven waarvoor ze werken te anonimiseren. Sommigen accepteerden het aanbod, maar de meeste auteurs kozen ervoor hun echte naam en bedrijf te gebruiken.
Uiteraard hebben we er alles aan gedaan om alle belangrijke voorzorgsmaatregelen te nemen om alle betrokkenen effectief te beschermen. Wij hebben onder meer juridisch advies ingewonnen. En we communiceren voortdurend met experts op het gebied van gegevensbescherming en onderzoeksethiek.
“De datawerkers kunnen een tegenmacht opbouwen”
IndignatieAI: Laten we het in principe nog eens over het project hebben. Het Data Workers’ Inquiry is geïnspireerd op een vragenlijst die Karl Marx in 1880 gebruikte om de situatie van de Franse arbeidersklasse te onderzoeken. In welke mate maakt de digitalisering, met haar mondiale arbeidsverdeling, de gemeenschappelijke strijd van uitgebuite werknemers moeilijker? Of kunnen digitale hulpmiddelen hier zelfs nuttig zijn?
Milagros Miceli: Omdat het Data Workers’ Inquiry ook een academisch project is, heeft deze vraag zowel een theoretisch als een politiek antwoord. Wat de theoretische analyses betreft, vereist de mondiale arbeidsverdeling door digitalisering een uitbreiding van het orthodoxe marxistische raamwerk – weg van de focus op de blanke industriële arbeider en naar kwesties van sociale reproductie, de kruispunten van ras, geslacht en klasse, de voortzetting van het kolonialisme en de wijdverbreide exploitatie van natuurlijke hulpbronnen, die allemaal het platformkapitalisme in stand houden.
De sleutelrol van datawerkers bij het soepel functioneren van AI doet denken aan de fundamentele marxistische veronderstelling dat alleen menselijke arbeid waarde kan creëren, ondanks pogingen om dit terug te brengen tot louter aanhangsels van machines. Datawerk moet daarom worden geanalyseerd als een productiewijze die de vervreemding verergert door werknemers fysiek van hun producten te scheiden. Dit maakt het voor datawerkers moeilijker om zichzelf te organiseren en controle uit te oefenen over hun productiemiddelen.
IndignatieAI: Als dat het theoretische antwoord was, wat is dan het politieke antwoord?
Milagros Miceli: Zonder politieke druk en publieke solidariteit zijn werknemers overgeleverd aan de represailles van technologiebedrijven. Maar ze kunnen alleen druk uitoefenen als ze solidariteitskanalen creëren en collectief een tegenmacht voor de bedrijven opbouwen. En alleen dan kunnen ze strijden voor eerlijke arbeidsomstandigheden.
Veel van de gemeenschapsonderzoekers zijn al lid van een vakbond. Daar zijn ze echter gegroepeerd in verschillende werkgroepen, wat hun politieke macht ondermijnt. Bovendien zijn velen van hen ontevreden over de grote traditionele vakbonden en willen ze hun eigen vakbonden oprichten.
En het gebruik van technologie kan hen ook helpen in deze strijd. Technologie is niet per definitie slecht. Het kan werknemers daadwerkelijk helpen verbinding te maken en zich te organiseren. Bovendien beweren sommige van onze gemeenschapsonderzoekers dat datawerkers hun werk beter zouden kunnen doen als technologieën niet alleen zouden worden gebruikt om de efficiëntie te monitoren en te verhogen, maar in plaats daarvan zouden worden gebruikt om de communicatie en de samenwerking tussen werknemers te optimaliseren.
Erkenning en betere omstandigheden zijn nodig
IndignatieAI: Velen zien de digitale economie als een voortzetting van de koloniale dynamiek van uitbuiting : hard werken onder precaire omstandigheden wordt vaak uitbesteed aan landen in het mondiale zuiden. De winsten vloeien echter voornamelijk naar het mondiale noorden. Kunt u dit beeld bevestigen?
Milagros Miceli: Volgens de Wereldbank zijn er wereldwijd tussen de 154 miljoen en 435 miljoen datawerkers , van wie velen wonen in of ontheemd zijn uit de meerderheidslanden van de wereld. De aantallen zijn de afgelopen jaren exponentieel toegenomen en er zijn geen tekenen die erop wijzen dat deze ontwikkeling vertraagt.
De grootste concentratie datawerkers in een land is nog steeds te vinden in de VS. Maar mondiaal gezien woont de overgrote meerderheid in het zuidelijke deel van de wereld, zoals India en de Filippijnen, maar ook in Venezuela en Brazilië.
Vóór het Data Workers’ Inquiry heb ik verschillende onderzoeken uitgevoerd onder datawerkers in Argentinië, Venezuela, Bulgarije en Syrië. In alle gevallen bevonden de klanten zich in de VS en de EU. Dit geeft ook vorm aan de activiteiten van de datawerkers. Meestal moet je ’s nachts werken, want dan is het voor de klanten dag. En ze begrijpen vaak niet waarom Spaanstalige medewerkers bijvoorbeeld instructies in het Engels krijgen. Of de objecten op de afbeeldingen die ze moeten labelen, zijn voor hen onbekend.
Soms is het andersom en komen de beelden hen vreemd bekend voor. Een uit Syrië ontheemde dataverwerker moest satellietbeelden uit haar thuisregio labelen, die vervolgens werden gebruikt voor surveillance-drones. De case laat zien hoe de ervaring van datawerkers ook als specialistische kennis wordt ingezet. Vervolgens wordt van hen verwacht dat zij de technologieën verbeteren die tot hun uitzetting hebben geleid.
IndignatieAI: Wat moet er veranderen in de technologie-industrie met betrekking tot outsourcing en wat kunnen mensen, het maatschappelijk middenveld en de politiek in Duitsland of Europa doen om datawerkers te ondersteunen?
Milagros Miceli: Met ons project willen we medewerkers een platform bieden waarop zij hun eisen kunnen voorleggen. En de meesten van hen doen dat heel duidelijk. Ze willen betere lonen en arbeidsomstandigheden, stabielere arbeidscontracten en meer steun. Dit omvat ook psychologische ondersteuning als ze gevaarlijke activiteiten ondernemen, zoals het modereren van inhoud.
Veel van onze gemeenschapsonderzoekers zijn er trots op bij te dragen aan de technologische vooruitgang en een veiliger internet, maar zouden daar graag meer erkenning voor willen krijgen. Daar horen uiteraard ook de lonen bij.
We moeten ons daarom niet langer afvragen of een uurloon van twee dollar veel of weinig geld is in landen als Kenia en Venezuela. In plaats daarvan moeten we ons afvragen waarom de technologiegiganten, die jaarlijks miljarden omzet genereren, hun werknemers niet meer lonen betalen. Ze zijn tenslotte essentieel voor uw bedrijf.