De rol van sociale media bij het mobiliseren van extreemrechtse relschoppers in het Verenigd Koninkrijk

Kwaadaardige speculaties en valse informatie verspreidden zich via sociale media na de steekpartij in Southport, VK, waarbij drie meisjes van zes tot negen jaar om het leven kwamen. Eerst braken er gewelddadige onlusten uit in Southport, daarna op andere locaties in het VK. Moskeeën , hotels en openbare gebouwen werden aangevallen, politieagenten raakten gewond en onschuldige mensen met een migranten- of moslimachtergrond werden het doelwit van mishandeling.

Sociale mediaplatformen faalden en lieten gewelddadige rellen uitbreken

Media Er zijn veel factoren die hebben bijgedragen aan deze uitbraak van geweld. Maar door het niet identificeren en onderdrukken van desinformatie over de steekpartij, hebben socialemediabedrijven bijgedragen aan de explosie van geweld die volgde op dit tragische incident.

Vroege onderzoeken naar welke sociale mediaplatforms en berichtenservices betrokken waren bij het geweld, hebben uitgewezen dat Telegram en X (voorheen Twitter) een rol hebben gespeeld. Hoewel Telegram een ​​gecodeerd berichtenplatform is en daarom moeilijk te beoordelen, zijn X-berichten met valse, onvolledige of kwaadaardig suggestieve informatie openbaar toegankelijk en zijn ze door miljoenen gebruikers in het Verenigd Koninkrijk gezien.

Algoritmen geven voorrang aan brandgevaarlijke inhoud

Veel van CCDH’s gepubliceerde onderzoek heeft de relatie tussen algoritmen en de promotie van haatdragende content online onderzocht. We hebben laten zien hoe haatdragende en valse informatie wordt gepromoot door algoritmen van sociale media.

Valse beweringen over de steekpartij in Southport zijn algoritmisch ingegeven en verspreid. Deze beweringen zijn gedeeld en opnieuw gedeeld op sociale media en bevatten vaak anti-immigranten- en anti-moslimstandpunten. Er is valse en misleidende desinformatie verspreid, kennelijk met de bedoeling om een ​​gewelddadige offline reactie uit te lokken. Bijvoorbeeld , in een inmiddels verwijderde post deelde een X-gebruiker een screenshot van een account waarin ten onrechte werd beweerd de ouder te zijn van een van de kinderen die bij de steekpartij omkwamen, en waarin beweringen werden gedaan over de migratiestatus van de aanvaller. Deze valse bewering werd wijdverspreid en opgepikt door een web van accounts die zich voordeden als nieuwskanalen.

Een andere dynamiek die hierbij een rol speelt, is een fenomeen dat CCDH documenteerde in ons rapport Don’t Feed the Trolls uit 2019 : terugslag tegen de originele berichten en pogingen om de valse informatie die ze bevatten te corrigeren, zorgen voor meer online betrokkenheid bij de onwaarheid en vergroten zo de algoritmische promotie en zichtbaarheid ervan.

De financiële beloningen van haat 

In momenten van informatiechaos zijn er mensen die winst proberen te maken door valse en hatelijke desinformatie te verspreiden, wetende dat dit beloond zal worden door algoritmen van sociale media. CCDH heeft gewezen op de prikkels die kwaadaardige accounts in staat stellen om tragedies zoals de steekpartijen in Stockport uit te buiten en om opruiende content te posten met als enige doel om meer volgers en online betrokkenheid te verzamelen die ze kunnen omzetten in financiële beloningen van het platform.

Het is waarschijnlijk dat deze dynamiek hier een rol speelt, zoals CCDH aantoonde na de aanval op Israël op 7 ^oktober . Deze prikkel om te profiteren van chaos is des te zorgwekkender gezien Elon Musks herinvoering van eerder verboden slechte acteurs, waardoor de poorten worden geopend voor tragedie-oplichters om op zijn platform te opereren.

Eerder onderzoek van CCDH heeft de rol van ‘blue tick’-accounts in de verspreiding van giftige informatie gedocumenteerd. Kopers van blue ticks krijgen speciale privileges van X en promotie van hun berichten en accountzichtbaarheid voor andere gebruikers op de site. Verslaggeving door de BBC en anderen heeft laten zien dat blue tick-accounts over de hele wereld meeliften op de rellen om onbewezen samenzweringen te posten die de situatie hebben aangewakkerd.

Wat kan er gedaan worden om socialemediabedrijven ter verantwoording te roepen voor hun rol in het geweld? 

Zoals de Britse premier Sir Keir Starmer en minister van Binnenlandse Zaken Yvette Cooper hebben gezegd, moeten socialemediabedrijven ter verantwoording worden geroepen voor hun rol in de golf van geweld na de tragische aanval in Southport.

Hoewel het Verenigd Koninkrijk de Online Safety Act heeft aangenomen , die sociale media en zoekdiensten een wettelijke verantwoordelijkheid geeft om illegale content op hun platforms te identificeren en te verwijderen, wordt deze wet nog steeds door de toezichthouder geïmplementeerd en zal deze pas in 2025 worden gehandhaafd. CCDH hoopt dat de bevoegdheden die door de Online Safety Act worden verleend, voldoende zijn om situaties als deze explosie van desinformatie aan te pakken, maar de overheid moet de doeltreffendheid van het regime voortdurend evalueren en de toezichthouder nieuwe bevoegdheden verlenen als dat nodig is. Terwijl CCDH de robuuste implementatie van de Online Safety Act ondersteunt , zal CCDH blijven strijden voor beleidsinterventies om de inactiviteit van platforms op het gebied van haat en desinformatie aan te pakken.

Onze oproep aan de Britse regering:

• Maak de platforms duidelijk dat hun falen om haat en opruiing te verwijderen en te de-amplificeren niet zal worden getolereerd – ze mogen nooit meer worden gebruikt als podium voor illegaal extreemrechts geweld.
• Maak gebruik van de bestaande bevoegdheden onder de Wet Openbare Orde, de Wet Online Veiligheid en het strafrecht om haatzaaiende uitlatingen en haatzaaiende actoren online aan te pakken.
• Wijzig de Online Safety Act met nieuwe bevoegdheden voor proactief vermogen om in te grijpen wanneer desinformatie toeneemt 
• Geef onderzoekers wettelijke rechten op toegang tot gegevens, waardoor de capaciteit van experts wordt vergroot om zich ontwikkelende crises te identificeren en autoriteiten te waarschuwen voor ontwikkelingen voordat deze gewelddadig worden.
• Werk samen met groepen die de doelgemeenschappen vertegenwoordigen om steun te bieden aan de getroffenen en betrek hen bij discussies over het aanpakken van haat en desinformatie die op hun gemeenschappen gericht zijn.

Onze oproep op sociale media platforms:

• Verminder haatdragende verhalen en beperk de viraliteit van haatzaaiende taal
• Stop alle vormen van geld verdienen met accounts van haatzaaiers en mensen die aanzetten tot geweld.
• Stel crisisresponsprotocollen op voor snelle inzet in tijden van informatiechaos
• Systemen fundamenteel aanpassen zodat ze per definitie veilig zijn, berichten die de regels overtreden detecteren voordat ze zich wijd kunnen verspreiden en frictie creëren in de virale verspreiding van valse informatie
• Handhaaf hun bestaande beleid inzake haatdragend gedrag en illegale activiteiten
• Stop met het sluiten van onafhankelijke toezichtskanalen en geef onderzoekers toegang tot data om de capaciteit te vergroten om zich ontwikkelende situaties te identificeren en erop te reageren.

Bedrijven van sociale media en beleidsmakers moeten nu actie ondernemen om de verspreiding van haat en desinformatie te stoppen. Als u zich zorgen maakt over het stoppen van online-aangedreven geweld in het Verenigd Koninkrijk, voeg dan uw naam toe en eis nu actie.

O ja, Musk laat berichten die hem niet liggen gewoon verwijderen