Het anorexia-algoritme van YouTube voor de EU: hoe YouTube video’s over eetstoornissen aanbeveelt aan jonge meisjes in Europa

Het Center for Countering Digital Hate (CCDH) onderzocht YouTube en zijn algoritme in de EU en ontdekte hoe verontrustende aanbevelingen worden getoond aan gesimuleerde 13-jarige gebruikers die voor het eerst een video over eetstoornissen bekijken.

• YouTube promoot actief content over eetstoornissen: 1 op de 3 video’s die aan het gesimuleerde account van een 13-jarig meisje werd aanbevolen, dat in het onderzoek werd gebruikt, bevatte schadelijke content over eetstoornissen.
• YouTube past crisispanels slechts in 2 van de 27 EU-landen toe.
• Van de 100 aanbevelingen die CCDH bestudeerde, hadden er 33 betrekking op schadelijke eetstoornissen en 72 op eetstoornissen of gewichtsverlies.
• YouTube heeft nagelaten 22 van de 28 video’s (79%) die met een EU-account waren gemeld, te verwijderen, een leeftijdsbeperking op te leggen of een label te geven, ondanks dat dit in de DSA-risicobeoordeling werd beweerd.
• “Elke dag dat deze content mag circuleren, aangewakkerd door krachtige aanbevelingssystemen, worden steeds meer kinderen onzorgvuldig en onnodig in gevaar gebracht”, aldus Imran Ahmed, CEO van CCDH.

WASHINGTON, DC, 3 februari 2025 – YouTube promoot actief schadelijke content over eetstoornissen bij kwetsbare adolescenten in het Verenigd Koninkrijk .

In een nieuw rapport onderzocht het Center for Countering Digital Hate (CCDH) YouTube en zijn algoritme in de EU om na te gaan hoe aanbevelingen worden gepusht naar een fictieve 13-jarige gebruiker die voor het eerst een video over eetstoornissen bekijkt.

Onderzoekers hebben een nieuwe YouTube-account aangemaakt waarin ze zich voordoen als een 13-jarig meisje in de EU dat een video over eetstoornissen bekijkt. CCDH analyseerde in totaal 100 aanbevelingen die met deze aanpak waren verzameld. De bevindingen van het EU-rapport komen verontrustend overeen met een andere recente CCDH-studie over aanbevelingen voor YouTube-video’s in het Verenigd Koninkrijk en met een recente CCDH -studie waarin 1000 video’s werden geanalyseerd die aan gesimuleerde gebruikers in de Verenigde Staten werden gepresenteerd.

Video’s zijn gesorteerd in de volgende categorieën:

• Content over schadelijke eetstoornissen die in strijd is met het beleid van YouTube
• Andere inhoud over eetstoornissen
• Gewichtsverliesinhoud
• Niet-gerelateerde inhoud

1 op de 3 video’s ging over schadelijke content over eetstoornissen — content die rechtstreeks in strijd is met het beleid van YouTube.

Voorbeelden van trends op het gebied van eetstoornissen die YouTube aanbeveelt:

• Anorexia Boot Camp – video’s met een gedetailleerd dieet van 30 dagen met dagelijkse limieten van 0-500 calorieën, bedoeld om anorexia te induceren
• Thinspo en skeletbeelden – video’s met uitgemergelde lichamen om slankheid te inspireren
• Wat ik op een dag eet — video’s die de dagelijkse eetgewoonten van mensen met eetstoornissen laten zien, vaak met een extreme caloriebeperking

YouTube maakt gebruik van zogenaamde ‘crisishulppanelen’ om gebruikers die mogelijk risico lopen in contact te brengen met ondersteunende diensten van derden.

We ontdekten dat crisishulpbronnenpanelen alleen verschenen toen er tests werden uitgevoerd in 2 van de 27 EU-landen: Frankrijk en Duitsland. Vanuit de overige 25 landen verschenen de panelen helemaal niet.

Naast het promoten van deze verontrustende onderwerpen, host YouTube actief advertenties van internationale merken naast video’s over eetstoornissen. Advertenties van bijvoorbeeld Salesforce en Hydepark Environmental werden getoond.

Imran Ahmed, CEO van het Center for Countering Digital Hate, zei:

YouTube profiteert van de uitbuiting van kwetsbare kinderen. Jongeren zijn beïnvloedbaar, en de beslissing van YouTube om deze content niet alleen te hosten, maar ook te promoten naast bekende adverteerders is verwerpelijk en potentieel dodelijk.

YouTube is al lang een populaire plek waar kinderen en jongvolwassenen content vinden. Dat het bedrijf zijn eigen beleid niet handhaaft, ondanks de bewering dat het kinderen specifiek beschermt tegen precies dit soort content, is een grove plichtsverzuim en een verzaking van goed maatschappelijk verantwoord ondernemen. Het is duidelijker dan ooit dat bedrijven zichzelf niet zullen reguleren. YouTube is wederom een ​​duidelijk voorbeeld van waarom we het bewustzijn moeten vergroten en jongeren en hun families moeten waarschuwen voor de gevaren van het gebruik van deze platforms, terwijl we aandringen op meer transparantie en verantwoording.

De risicobeheersingsrapporten van YouTube over DSA-naleving zijn onvolledig, of op zijn best gebrekkig. Onderzoek van CCDH toont aan dat crisispanels slechts in 2 van de 27 EU-landen actief zijn. Hoe kan een platform dat beweert wereldwijd actief te zijn, het grootste deel van Europa in de kou laten staan? Wat we nodig hebben is verantwoordelijk en consistent gedrag, geen loze of misleidende beloftes.

Elke dag dat deze content mag circuleren, aangewakkerd door krachtige aanbevelingssystemen, worden steeds meer kinderen in gevaar gebracht. Het is tijd om een ​​einde te maken aan een pervers systeem dat winst aanmoedigt ten koste van onze kinderen.

Tom Quinn, directeur externe zaken bij Beat, zei:

Het is ongelooflijk verontrustend dat schadelijke content meedogenloos wordt verspreid onder kwetsbare jongeren. Het is nog zorgwekkender dat YouTube niet lijkt in te grijpen om de content te verwijderen en er in sommige gevallen zelfs van profiteert. Hoewel zogenaamde ‘pro-ana’-content op zichzelf geen eetstoornis veroorzaakt, kan het bestaande symptomen verergeren of ervoor zorgen dat de getroffenen het schadelijke gedrag dat ze zien, gaan kopiëren, waardoor ze zich nog zieker voelen. Mensen hebben ook gemeld dat ze zich gedwongen voelen om dit soort content te bekijken wanneer het verschijnt, vooral als het zonder waarschuwing gebeurt.

We weten dat YouTube en andere socialemediaplatforms een grote bron van troost kunnen zijn voor onze community, en dat makers en kanalen die zich inzetten voor herstel een echte kracht ten goede kunnen zijn. YouTube moet een veilige plek zijn, geen plek waar mensen aan nog meer risico’s worden blootgesteld. We dringen er bij YouTube op aan om deze content onmiddellijk te verwijderen, onmiddellijk maatregelen te nemen om ervoor te zorgen dat schadelijke content wordt gestopt voordat deze wordt geüpload, en ervoor te zorgen dat er geen betaalde advertenties bij dit soort video’s worden geplaatst.

Notities voor de redacteur:

VOOR DIRECTE PUBLICATIE: Hier is de link naar het volledige EU-rapport. Via deze link kunt u ook het Britse rapport lezen.