Islamitische Staat ontwikkelt ‘emoji’-tactieken om online propaganda te verspreiden

De jihadistische groepering past haar strategieën aan op verschillende sociale-medianetwerken, zodat ze haar gewelddadige inhoud kan blijven verspreiden.

De Islamitische Staat heeft een nieuw wapen in handen in het verspreiden van haatzaaiende uitlatingen en gewelddadige content online: de emoji.

De afgelopen twee maanden hebben Facebook-pagina’s in het Arabisch, Koerdisch en Engels deze digitale afbeeldingen gebruikt om de inhoudsregels van Facebook te omzeilen. Emoji’s zijn gebruikt in plaats van woorden als “wapen”, “explosie” en “raket” om de terroristische aanslagen van de Islamitische Staat in het Midden-Oosten en verder weg te verdedigen.

Deze pagina’s, die zich voordoen als reguliere media-organisaties met alledaagse namen als World News en Media Point, hebben samen honderdduizenden likes, shares en reacties verzameld, gebaseerd op onderzoek gedeeld met POLITICO.

De nepnieuwskanalen maken deel uit van een geavanceerde digitale desinformatiecampagne waarbij verschillende tactieken worden ingezet op Facebook-pagina’s, Twitter-accounts en Telegram-kanalen. Aan de Islamitische Staat gelieerde kanalen hebben in totaal bijna 80.000 volgers. Een deel van de inhoud van de sociale media is sinds juni 2020 beschikbaar, voornamelijk gericht op het verspreiden van haatzaaiende uitlatingen in Irak en Syrië door nieuws over ISIS-aanvallen te delen via de officiële spreekbuis van de groep.

Veel van de ISIS-inhoud die door POLITICO wordt beoordeeld, is nog steeds online – en niets ervan zou beschikbaar moeten zijn op sociale media, op basis van de eigen regels van platforms tegen terroristische inhoud.

“Ze zijn gekoppeld aan een breder onofficieel ISIS-nieuwsecosysteem dat specifieke ontwijkingstactieken heeft bedacht, zelfs ondanks het uitschakelen van [sociale media], om te gedijen en te blijven doen”, zegt Moustafa Ayad, uitvoerend directeur voor Afrika, het Midden-Oosten en Azië bij het Institute for Strategic Dialogue, een denktank die online extremisme volgt. Ayad ontdekte de terroristische groeperingen op alle drie de platforms en deelde zijn bevindingen met POLITICO.

“ISIS-supporters hebben een manier bedacht om meerdere platforms op een steeds geavanceerdere manier te gebruiken”, voegde hij eraan toe. “Waarom zouden ze een emoji-code ontwikkelen om bepaalde dingen op Facebook te beschrijven en diezelfde emoji-code niet op Telegram gebruiken? Het gaat om het gebruik van verschillende tactieken.”

Verschillende tactieken voor verschillende platforms

Volgens twee nationale veiligheidsfunctionarissen en drie onderzoekers die online jihadistisch materiaal volgen, bewapenen de groepen blinde vlekken binnen het inhoudsbeleid van elk sociale-mediaplatform.

Voor Facebook omvat dat het vervangen van terroristische taal door emoji’s. Voor Twitter houdt dat in dat de inhoud in het Engels wordt afgezwakt in vergelijking met wat in het Arabisch wordt gepost. Voor Telegram betekent dit rechtstreeks kopiëren van officieel ISIS-materiaal. Het is een zich ontwikkelend kat-en-muisgevecht met technologiebedrijven en nationale veiligheidsdiensten.

De combinatie van verschillende platforms stelt jihadistische groeperingen ook in staat een zo breed mogelijk publiek te bereiken en zichzelf af te schilderen als onderdeel van een legitieme politieke organisatie. Alternatieve netwerken zoals Telegram bieden een plek om tactieken te coördineren, terwijl een meer mainstream platform zoals Facebook wordt gebruikt om vaak afgezwakte propaganda te verspreiden, zodat dergelijke berichten de tools voor contentmoderatie van het platform kunnen omzeilen.

“Ze zijn erg geavanceerd. Ze weten heel goed wat ze doen”, zegt Ayse Deniz Lokmanoglu, een postdoctoraal onderzoeker aan het Centrum voor Communicatie en Openbaar Beleid van de Northwestern University.

In reactie hierop weigerde Facebook commentaar te geven, maar zei dat het de accounts aan het onderzoeken was. Vertegenwoordigers van Twitter en Telegram hebben niet gereageerd op verzoeken om commentaar.

Technologiebedrijven hebben, zelfs als ze traag materiaal van westerse extremisten hebben verwijderd, op agressieve wijze tienduizenden accounts verwijderd die nauwe banden hebben met ISIS, de Taliban of andere jihadistische groepen, vaak in nauwe samenwerking met nationale veiligheidsdiensten om dergelijk materiaal te verwijderen .

Het is niet altijd gelukt. Interne Facebook-documenten, openbaar gemaakt door Frances Haugen, een klokkenluider van het bedrijf, onthulden hoe het bedrijf herhaaldelijk verzuimde zijn Arabisch-talige gebruikers te beschermen tegen terroristisch gerelateerd materiaal. Als reactie hierop zei Meta, het moederbedrijf van Facebook, dat het zwaar had geïnvesteerd in contentmoderatie in het Midden-Oosten.

Toch zijn extremisten snel geëvolueerd om voorop te blijven lopen en profiteren ze van de geringe samenwerking tussen de technologiebedrijven om campagnes die afhankelijk zijn van verschillende sociale-medianetwerken de kop in te drukken.

Meili Criezis, een afgestudeerde fellow aan het Polarization and Extremism Research and Innovation Lab van de American University die de online propaganda van ISIS volgt, zei dat deze groepen vaak back-up-accounts op sociale media gebruiken voor het geval hun belangrijkste kanalen worden verwijderd.

“Ze hebben altijd een back-upkanaal dat je van het ene naar het andere zou kunnen linken”, voegde Criezis eraan toe, die niet was betrokken bij het werk dat door het Instituut voor Strategische Dialoog aan POLITICO werd geleverd, maar die onafhankelijk een deel van dezelfde ISIS- gekoppelde digitale desinformatiecampagne.

“Voor ISIS is het belangrijk omdat ze zichzelf zien als een wereldwijd kalifaat. Daarom zijn deze mediakanalen, zoals Twitter, Facebook en Telegram, belangrijk om door te gaan”, zei ze.

Syrische gevangenisuitbraak

Eind januari voerden ISIS-militanten een gewelddadige uitbraak uit in de gevangenis in Hasakah, Syrië – en toonden ze hun digitale desinformatie-apparaat in actie.

Op Telegram begonnen de nep-mediakanalen een specifieke ISIS-hashtag te delen die de terroristische groepering gebruikte om haar berichten rond de aanval te coördineren, wat leidde tot 10 dagen van gevechten in de Syrische stad. Ze gebruikten ook foto’s en andere sociale-media-inhoud rechtstreeks van de officiële propagandamachine van de jihadisten, waarbij vaak het ISIS-logo op de sociale-mediaposts die binnen Telegram werden gedeeld, bleef staan.

Op Twitter steunden de Arabisch-talige accounts openlijk de ontsnapping uit de gevangenis, waarbij ze zowel de ISIS-hashtag deelden als de ‘kalifaatstaat’ prezen. Maar in het Engels, waar de online-inhoudtools van het socialemediabedrijf geavanceerder zijn, waren die accounts meer gedempt, waarbij ze alleen maar naar de militanten verwijzen als “moslims die samenkomen”.

Op Facebook vertrouwden de pagina’s op hun emoji-codeboek om de aanval aan te kondigen, waarbij de digitale afbeeldingen werden gesplitst om termen te beschrijven die verband houden met ISIS. Ze plaatsten ook een lange video van de ontsnapping uit de gevangenis, die bijna 90.000 keer is bekeken, genomen vanuit het gezichtspunt van de militanten terwijl ze zich verspreidden in de Syrische stad.

De accounts, kanalen en pagina’s op alle drie de sociale netwerken deelden herhaaldelijk elkaars inhoud, evenals die van gelieerde gebruikers van sociale media die het materiaal onder een breed online publiek verspreidden.

“Wat hier aan de hand is, is iets compleet nieuws”, zegt Ayad, de onderzoeker van het Instituut voor Strategische Dialoog die het netwerk ontdekte. “Het is een multiplatform, meertalige tactiek die gebruikmaakt van nepnieuwsorganisaties en verschillende contentstrategieën. Het doel lijkt te zijn om een ​​online aanwezigheid te behouden zonder te worden gedetecteerd.”