Desinformatie op sociale media: het ‘wilde westen’ van de democratie

Desinformatie op sociale media en ongereguleerde AI bedreigen de democratie wereldwijd, zeiden technologie- en rechtenexperts op het Skoll World Forum

OXFORD, Engeland – Desinformatie, Populisme en nepnieuws op sociale media voeden een wereldwijde recessie van de democratie, waarschuwden technologieonderzoekers en activisten, waarbij deze risico’s worden verergerd door ongereguleerde ontwikkelingen op het gebied van kunstmatige intelligentie.

Van Myanmar tot de Verenigde Staten vormen desinformatie en haatzaaiende uitlatingen die zich via sociale media verspreiden een existentiële bedreiging voor de democratie, zeiden technologie- en rechtenexperts deze week op een Skoll World Forum-evenement.

“Het verspreiden van mis- en desinformatie… (is net als) het wilde westen, waar mensen zich bezighouden met anderszins illegale activiteiten, met dien verstande dat er niemand is om daar toezicht op te houden”, zegt Ian Bassin, uitvoerend directeur van Protect Democracy, een belangenbehartigingsgroep.

“Je riskeert een situatie waarin politici het gevoel hebben dat alles kan”, zei hij tegen ons aan de zijlijn van Skoll.

Bij een militaire staatsgreep in Myanmar werden Facebook en Instagram, platforms die voor veel burgers synoniem waren met internet, gebruikt om haatzaaiende uitlatingen en desinformatie te verspreiden en zo het geweld in de echte wereld aan te wakkeren, waardoor de resultaten van de verkiezingen van 2020 in het land ongedaan werden gemaakt.

In de Verenigde Staten probeerde voormalig president Donald Trump sociale media te gebruiken om de verkiezingen van 2020 in zijn land ongedaan te maken door valse beweringen van kiezersfraude. Hij werd, net als het leger van Myanmar, uiteindelijk verwijderd van de platforms van Facebook, maar richtte zijn eigen platforms op.

“Het discours reist door alle (sociale media) ruimtes”, zegt Cameron Hickey, projectdirecteur voor algoritmische transparantie bij de National Conference on Citizenship, een non-profitorganisatie.

“Donald Trump is misschien verwijderd van Twitter en Facebook, maar hij heeft Truth Social opgezet als een nieuw en krachtig spreekbuis, en de inhoud van zijn berichten werd vervolgens opnieuw gedeeld op die belangrijkste platforms.”

Slechte of niet-bestaande inhoudsmoderatie rond desinformatie en haatzaaiende uitlatingen – in combinatie met een hausse aan kunstmatige intelligentie – kan onevenredig grote gevolgen hebben voor gemarginaliseerde gemeenschappen wereldwijd, vertelden evenementafgevaardigden aan de media

“We hebben te maken met mensenrechtenverdedigers in Nigeria die ervan worden beschuldigd deel uit te maken van een seksuele minderheidsgroep (terwijl) je in veel landen in Afrika strafrechtelijk vervolgd kunt worden vanwege je seksualiteit”, zegt Nkem Agunwa, een programmamanager. voor Afrika bij non-profit WITNESS.

“Mensenrechtenactivisten ontdekken schendingen, maar dat bewijsmateriaal wordt in diskrediet gebracht als deepfakes”, voegde ze eraan toe. “(Maar) er zijn mensenrechtenverdedigers die AI gebruiken om avatars te maken, waardoor het risico op blootstelling wordt geminimaliseerd en tegelijkertijd de authentieke boodschap van hun gemeenschap wordt verspreid.”

Tristan Harris, mede-oprichter van het in de VS gevestigde Center for Humane Technology, voorspelde dat AI exponentiële dreigingen van chantage en laster kan creëren, lobbywerk kan automatiseren, juridische mazen in de wetgeving kan ontdekken en bestaande risico’s op sociale media kan verergeren.

De grootste risico’s van AI kunnen worden beperkt met meer transparantie, aldus Agunwa.

“(We) moeten mensenrechtenoverwegingen centraal stellen in het ontwerp (en) de ontwikkeling van kunstmatige intelligentie”, zei ze.

Voor Hickey “is de transparantie (die nodig is) rond deze systemen niet alleen de broncodes. We hebben de impact nodig. Hoe verschilt wat jij ziet van wat ik zie?”

“Ik denk dat de inspanningen om deze gegevens te verzamelen in sommige gevallen zo uitgebreid, zo complex en zo verweven zijn tussen verschillende afdelingen en bedrijven dat er geen echte bron van waarheid bestaat.”

Wat is desinformatie?

Desinformatie kent verschillende betekenissen. Binnen de Rijksoverheid wordt onderscheid gemaakt tussen drie vormen:

• Desinformatie is het doelbewust verspreiden van misleidende informatie, vaak met kwade bedoelingen. Desinformatie wordt verspreid om meningen te beïnvloeden, geld te verdienen of schade aan te brengen aan onze samenleving, de democratie of de volksgezondheid. Dit kan een negatief effect hebben op de nationale veiligheid. Desinformatie bestaat niet altijd uit onjuiste informatie. Regelmatig is het juist een combinatie van feiten en verzonnen informatie, of een uit de context getrokken gebeurtenis. De achterliggende gedachte van desinformatie is altijd om mensen te misleiden of schade aan te brengen. Is dit niet de gedachte die achter de informatie zit, dan hebben we het over misinformatie.
• Misinformatie is valse of misleidende informatie die niet goed begrepen wordt en wordt verspreid zonder schadelijke bedoelingen. De verspreider weet niet dat de informatie niet klopt, maar de effecten kunnen nog steeds schadelijk zijn. Bijvoorbeeld wanneer het bericht wordt gedeeld met vrienden en familie.
• Foreign Information Manipulation and Interference /FIMI) is de term die binnen de Europese Unie wordt gebruikt voor de bemoeienis van buitenlandse partijen in onze informatiestromen. FIMI is een specifiek aandachtsgebied binnen desinformatie. Een FIMI-campagne wordt soms uitgevoerd als onderdeel van een bredere hybride campagneoperatie. Een hybride campagneoperatie bestaat uit zowel fysieke, als digitale acties.

Waar wordt desinformatie voor gebruikt?

Desinformatie kan worden gebruikt om democratische processen zoals verkiezingen te verstoren, of om de politieke en bestuurlijke integriteit van de volksvertegenwoordiging en de rechtspraak in twijfel te trekken. Daarnaast kan desinformatie gebruikt worden om een economische agenda na te streven en om berichten te verspreiden die tot onrust kunnen leiden.

Desinformatie als reële dreiging

De verspreiding van desinformatie is een reële dreiging. Deze manifesteert zich vooral online. In een brede aanpak samen met private partijen, media en wetenschap wordt gewerkt aan voorbereiding, herkenning en een passende manier om te reageren. Bescherming van de vrijheid van meningsuiting, vrije pers, democratie en rechtsstaat staan voorop.