Extreem rechts op Facebook

Neo-nazi, blanke suprematie en extreemrechtse groepen en online bedrijven zijn aanwezig op Facebook. Facebook is de derde meest bezochte website op internet en is ook ’s werelds grootste sociale medianetwerk, met meer dan 2,2 miljard regelmatige gebruikers in februari 2018.* Volgens het Pew Research Center gebruikt 68% van de Amerikaanse volwassenen Facebook, met 81% van de mensen tussen de 18 en 29 jaar die het platform gebruiken.* Vanwege zijn populariteit is Facebook een belangrijk hulpmiddel geworden voor politieke of maatschappelijke organisaties en commerciële merken – helaas ook voor extreemrechtse extremisten.

Hoewel het bedrijf haatzaaiende uitlatingen en haatgroepen expliciet verbiedt in zijn gemeenschapsnormen,*Facebook lijkt een reactionaire benadering te hebben om neonazistische en blanke suprematie-inhoud van zijn platform te verwijderen. Facebook deactiveerde bijvoorbeeld een pagina van de Traditionalist Workers Party, een neonazigroep, pas nadat was onthuld dat de groep deelnam aan de Charlottesville Unite the Right-bijeenkomst in 2017. De pagina is voorafgaand aan het evenement aan het bedrijf gerapporteerd.*In een ander geval bleek uit een Huffington Post-onderzoek in de zomer van 2018 dat vier neonazistische en blanke supremacistische kledingwinkels op Facebook konden opereren. De techgigant verwijderde uiteindelijk de pagina’s toen het met negatieve pers werd geconfronteerd.* Ondanks astronomische inkomsten van ongeveer $ 40,7 miljard in 2017, slaagt Facebook er niet in om zijn eigen gemeenschapsnormen op een proactieve manier af te dwingen.*

In september 2018 identificeerde en controleerde het Counter Extremism Project (CEP) een kleine selectie van 40 Facebook-pagina’s van online winkels die witte supremacistische kleding, muziek of accessoires verkopen, of blanke supremacistische of neonazistische groepen. Pagina’s werden gevonden door zoekopdrachten naar bekende blanke supremacistische of neonazistische trefwoorden. CEP-onderzoekers registreerden informatie voor elke pagina, zoals het aantal vind-ik-leuks, de aanmaakdatum en voorbeelden van blanke suprematie of neonazistische inhoud. Na twee maanden rapporteerde CEP de pagina’s – slechts 35 van de 40 bleven online – aan Facebook en ontdekte dat uiteindelijk slechts vier pagina’s waren verwijderd. Het is duidelijk dat het proces van Facebook voor het beoordelen en verwijderen van deze inhoud – die in strijd is met zijn eigen gemeenschapsnormen – ontoereikend is.

Welke inhoud is toegestaan ​​op Facebook?

Facebook is een privébedrijf dat in staat is om bepaalde soorten inhoud te beperken die niet passen bij zijn missie, bedrijfsmodel of ethos.* Volgens de gemeenschapsnormen van de site verbiedt Facebook organisaties of individuen die betrokken zijn bij “georganiseerde haat” om op Facebook aanwezig te blijven, evenals inhoud “die steun of lof betuigt voor groepen, leiders of individuen die bij deze activiteiten betrokken zijn.”* Facebook definieert een haatorganisatie als:

Elke associatie van drie of meer mensen die is georganiseerd onder een naam, teken of symbool en die een ideologie, uitspraken of fysieke handelingen heeft die individuen aanvallen op basis van kenmerken, waaronder ras, religieuze overtuiging, nationaliteit, etniciteit, geslacht, geslacht, seksuele geaardheid, ernstige ziekte of handicap .*

Een onbekende Facebook-woordvoerder verduidelijkte hun beleid ten aanzien van haatgroepen op hun platform verder door tegen een journalist te zeggen: ‘Het maakt niet uit of deze groepen haatdragende berichten posten of dat ze foto’s van vrienden en familie delen … als georganiseerde haatgroepen hebben geen plaats op ons platform. “*

Methodologie en toepassingsgebied

Zoekprocedure en gegevensverzameling

Op het platform werden zoekopdrachten naar Facebook-pagina’s uitgevoerd met behulp van trefwoorden die verband hielden met verschillende blanke supremacistische groepen en extreemrechtse ideologieën. Voorbeelden van trefwoorden waren onder meer de namen van bekende blanke supremacistische groepen, bands en platenlabels, en gevestigde blanke supremacistische slogans zoals ‘witte trots wereldwijd’. In sommige gevallen werden extra pagina’s gelokaliseerd nadat ze door Facebook waren aanbevolen als “gerelateerde pagina’s” of door pagina’s te bekijken die door een andere pagina waren “geliked”.

Zodra een neonazistische blanke supremacist of extreemrechtse Facebook-pagina was gevonden, legden CEP-onderzoekers belangrijke gegevens vast, zoals de aanmaakdatum en het aantal likes. Een maand nadat de originele gegevens waren gemaakt, werden de pagina’s opnieuw bezocht om de verandering in het aantal vind-ik-leuks vast te leggen.

Een Facebook-pagina werd ook geclassificeerd als: actief (als deze een beheerderspost had in de afgelopen maand), semi-actief (als deze een beheerderspost had in de afgelopen drie maanden) of inactief (als de meest recente post meer dan drie maanden oud). Inactieve pagina’s zijn niet noodzakelijk verouderd. Het is mogelijk dat de beheerder van de pagina nog steeds reageert op privé Facebook-berichten, dat individuen nog steeds andere mensen kunnen vinden die geïnteresseerd zijn in blanke suprematie-activiteiten, en gebruikers kunnen de pagina nog steeds gebruiken om propaganda te lokaliseren.

Welke Facebook-pagina’s zijn opgenomen?

Facebook-pagina’s werden opgenomen als ze witte suprematie-kleding, accessoires, muziek of merchandise verkochten met bands die de blanke suprematie promoten.*In verschillende gevallen zijn voorbeelden van blanke suprematie-inhoud afhankelijk van codes, symbolen of kennis van de blanke suprematie- / neonazistische punk-, hardcore- of metalmuziekscènes. Dit is vooral het geval bij koopwaar bedoeld voor een Europees publiek, waar bepaalde symbolen, zoals de nazi-swastika, mogelijk verboden zijn. Bewijs van blanke suprematie-koopwaar werd ook geregistreerd.*

Daarnaast werden Facebook-pagina’s voor blanke supremacistische groepen opgenomen. In sommige gevallen plaatsten groepspagina’s geen specifieke inhoud met betrekking tot de groep, zoals propaganda, evenementen, lidmaatschapsregels, enz. Zelfs als dergelijke informatie ontbrak, werden deze pagina’s opgenomen omdat ze nog steeds verboden zijn volgens de gemeenschapsnormen van Facebook en omdat de pagina’s bieden een forum voor supporters om te communiceren, evenals een manier voor individuen om hun groepsverband aan te geven.*

Publiek meten

Pagina’s werden gemeten op basis van hun aantal ‘vind-ik-leuks’. Door pagina’s te liken kunnen Facebook-gebruikers hun smaak, persoonlijke voorkeuren en politiek aangeven, terwijl de gebruiker ook pagina-updates kan zien en toegang krijgt tot commentaarsecties. Hoewel het aantal vind-ik-leuks van pagina’s kan toenemen als gevolg van de stijgende populariteit van een groep of merk, kan het aantal vind-ik-leuks van een pagina afnemen door het plaatsen van oninteressante inhoud of het verwijderen van persoonlijke Facebook-accounts.

Rapporteren

Na het monitoren van deze geselecteerde 40 Facebook-pagina’s tussen september en november, merkte CEP op dat er binnen die periode vijf werden verwijderd. Na de periode van twee maanden meldde CEP dat de resterende 35 Facebook-pagina’s werden verwijderd wegens schending van de gemeenschapsnormen van de site. Na de rapportage van CEP werden de pagina’s een dag later en een week later onderzocht om te bepalen welke pagina’s waren verwijderd of helemaal niet.

Gegevens

Gegevensoverzicht

• Tussen september en november en voordat CEP alle pagina’s aan Facebook rapporteerde voor verwijdering, werden slechts vijf van de 40 pagina’s door het technologiebedrijf verwijderd wegens het overtreden van de gemeenschapsnormen of werden ze ontoegankelijk gemaakt.
• Na de periode van twee maanden ontdekte CEP dat van de 35 resterende pagina’s die in likes waren toegenomen, het publiek met in totaal 2.366 likes was toegenomen en dat pagina’s die in likes waren afgenomen met slechts 28 likes werden verminderd.
• Actieve pagina’s – waarop de afgelopen maand een bericht is geplaatst – zijn 73 keer sneller gegroeid dan inactieve pagina’s, waarbij het meest recente bericht meer dan drie maanden oud is. Toch blijft bijna de helft van de inactieve pagina’s in aantal toenemen, ondanks het gebrek aan activiteit door paginabeheerders.

Gegevens

Op 7 september 2018 identificeerde en verzamelde CEP gegevens over een kleine steekproef van 40 neonazistische of blanke supremacistische Facebook-pagina’s. Van die 40 pagina’s waren 18 pagina’s voor online bedrijven die merchandise of muziek verkochten, en 22 pagina’s voor groepen of organisaties. Twee maanden later, op 7 november, bezocht CEP elk van de 40 pagina’s opnieuw om eventuele wijzigingen aan de pagina te analyseren en de omvang van het publiek te meten.

Gegevens voor september voor 18 winkels die witte supremacistische kleding, muziek of accessoires verkopen:

Op 7 november bezocht CEP deze 18 pagina’s opnieuw en merkte op:

Gegevens voor september voor 22 blanke supremacistische organisaties en groepen:

Op 7 november bezocht CEP deze 22 pagina’s opnieuw en merkte op:

Rapporteren

Na de gegevensverzameling en analyseperiode van twee maanden meldde CEP de resterende 35 van de oorspronkelijke 40 pagina’s aan Facebook voor verwijdering wegens schending van de Community Standards van de site inzake aanzetten tot haat.* Na melding beweerde Facebook dat zes van de 35 (17%) waren verwijderd, maar toen CEP de verwijdering van deze pagina’s wilde bevestigen, werden slechts drie van de zes (9% van het totaal aantal gerapporteerde pagina’s) daadwerkelijk verwijderd.* Vreemd genoeg werden deze drie pagina’s niet verwijderd, ondanks de bewering van Facebook dat ze waren verwijderd wegens aanzetten tot haat.* In alle drie de gevallen beweerde Facebook: “We hebben de pagina verwijderd die je hebt gemeld”, omdat “deze in strijd was met onze gemeenschapsnormen.”* Het bedrijf heeft niet verduidelijkt of uitgelegd waarom deze pagina’s online bleven.

Bovendien ontdekte CEP, los van de zes pagina’s die Facebook beweerde te hebben verwijderd, dat één pagina van de blanke supremacistische groep, de Scottish Nationalist Society, ofwel was verwijderd door Facebook-medewerkers of de paginabeheerders. Dit werd gedaan ondanks dat Facebook beweerde dat de pagina het beleid met betrekking tot haatzaaiende uitlatingen niet schond en niet zou worden verwijderd nadat CEP de pagina had gemeld. De verwijdering van de Facebook-pagina van de Scottish Nationalist Society onthult dat slechts vier van de 35 gerapporteerde pagina’s uiteindelijk zijn verwijderd.

Nadat CEP de resterende 35 pagina’s aan Facebook had gemeld, beweerde het sociale-mediabedrijf dat het een niet-geïdentificeerde hoeveelheid inhoud van twee pagina’s had verwijderd – de blanke supremacistische onlinewinkel Angry White Boy en de blanke supremacistische groep Be Active Front – maar stond het de pagina’s zelf toe om online blijven. Dit is vooral verontrustend aangezien deze pagina’s duidelijk het beleid van het platform inzake aanzetten tot haat en georganiseerde haat schenden. Bovendien heeft Facebook niet gespecificeerd welke inhoud is verwijderd wegens schending van de gemeenschapsnormen, of uitgelegd waarom het toestond dat deze pagina’s op het platform bleven, wat erop wijst dat het bedrijf niet transparant is over de inhoud en het verwijderingsproces van het account.

In het algemeen merkte CEP op dat een overweldigende meerderheid van de neonazistische en blanke supremacistische pagina’s – 31 van de 35 pagina’s – die aan Facebook werden gemeld wegens het overtreden van de gemeenschapsnormen met betrekking tot haatzaaiende uitlatingen en georganiseerde haat, niet werden verwijderd.* Alle pagina’s die door CEP worden gerapporteerd, zijn ofwel eigendom van online bedrijven die producten aanbieden die in strijd zijn met het beleid van Facebook inzake haatzaaiende uitlatingen, of behoren tot groepen die het beleid van het platform inzake georganiseerde haatgroepen schenden.

Conclusie

Het onvermogen van Facebook om blanke supremacistische en neonazistische winkels en groepen te verwijderen, toont consequent en transparant aan dat het bedrijf er niet in slaagt zijn eigen gemeenschapsnormen af ​​te dwingen. Bovendien zijn de rapportagemechanismen en het proces ervan lang niet voldoende. De Servicevoorwaarden en Community-normen van een bedrijf zijn slechts zo sterk als de bereidheid van een platform om ze af te dwingen.

Van de 40 Facebook-pagina’s van blanke supremacistische en neonazistische winkels en groepen die in september 2018 werden geïdentificeerd, waren er in november 2018 nog 35 pagina’s online. Deze pagina’s zagen in die twee maanden een toename van 2.366 likes. Zelfs nadat CEP de resterende 35 pagina’s aan Facebook had gemeld, werden slechts vier pagina’s verwijderd. Dit betekende dat Facebook besloot 12 bedrijven toe te staan ​​die koopwaar verkopen die blanke suprematie en neonazistische thema’s promoten, en 19 groepen die de blanke suprematie en neonazistische ideologie onderschrijven op haar platform.

Wanneer neonazistische groepen die duidelijk het beleid van het platform schenden, pagina’s mogen onderhouden, roept dit serieuze vragen op over de toewijding van Facebook aan hun eigen beleid. Het niet verwijderen van inhoud die duidelijk in strijd is met het beleid van het platform inzake aanzetten tot haat en haatgroepen duidt op een gebrek aan bewustzijn of een gebrek aan de wens om schadelijke inhoud te verwijderen. Beide gevallen zijn onaanvaardbaar en vereisen actie om groepen te voorkomen die racisme, xenofobie, homofobie, antisemitisme en islamofobie actief promoten.

Het is niet voldoende dat Facebook misleidende verklaringen publiceert vol excuses, loze beloften om beleid en praktijken te verbeteren, en een eenvoudige opsomming van de hoeveelheid inhoud die ze hebben verwijderd. Facebook moet verantwoordelijk worden gehouden voor het nalaten om een ​​veel proactievere benadering te volgen bij het verwijderen van inhoud en accounts die hun gemeenschapsnormen schenden en voor het grondig onderzoeken van gerapporteerde pagina’s.

Aanbevelingen

CEP stelt verschillende aanbevelingen voor om te voorkomen dat blanke supremacisten en neonazi’s profiteren van de verkoop van koopwaar op Facebook en om groepspagina’s op de site bij te houden.

Opleiding van contentreviewers : Facebook moet ervoor zorgen dat hun contentreviewers een adequate training krijgen over blanke supremacistische en neonazistische bewegingen en organisaties. Contentreviewers moeten gespecialiseerde kennis hebben van de symbolen en codes die deze groepen en individuen gebruiken, en ook van de manier waarop ze online werken.

Eenvoudig en duidelijk rapportageproces: Facebook zou het voor Facebook-gebruikers gemakkelijker moeten maken om pagina’s te melden voor specifieke schendingen van de gemeenschapsnormen, zoals het zijn van een haatgroep. Op het moment van schrijven omvatten de beschikbare redenen voor het melden van een pagina niet de grote verscheidenheid aan mogelijke schendingen van de gemeenschapsnormen. Facebook zou gebruikers ook de mogelijkheid moeten bieden om verschillende zinnen op te nemen over waarom ze een pagina rapporteren. Hierdoor kunnen gebruikers nuttige informatie voor contentreviewers opnemen, zoals een beschrijving van de ideologie van een groep, de betekenis van een bepaald symbool of eerdere gewelddaden. Bovendien moeten pagina’s die behoren tot blanke suprematie of neonazistische groepen die worden gerapporteerd aan inhoudrecensenten op Facebook extra aandacht krijgen, omdat inhoud die op de pagina zelf wordt gepost mogelijk niet direct of expliciet verwijst naar extremistische ideologieën of gewelddadige handelingen.

Verhoog de transparantie : Facebook zou de transparantie moeten verbeteren met betrekking tot hun beleid voor het verwijderen van inhoud. Facebook moet met name duidelijke redenen en uitleg geven waarom het in bepaalde gevallen beweert inhoud te hebben verwijderd, maar die inhoud is gebleven.