Massale deep fake-campagne richt zich op de Amerikaanse presidentsverkiezingen 2024

Deep fake – Het Institute for Strategic Dialogue (ISD) analyseerde een online beïnvloedingscampagne, georkestreerd door een Chinees netwerk, om de Amerikaanse presidentsverkiezingen te verstoren.

 Deep fake Deze operatie, die vanwege haar misleidende tactieken ‘Spamouflage’ wordt genoemd, is in verband gebracht met de Communistische Partij van China (CCP). 

• Een rapport van het Instituut voor Strategische Dialoog (ISD) bespreekt een uitgebreide desinformatiecampagne
• De campagne, die vermoedelijk afkomstig is uit China, richt zich met deep fakes op de Amerikaanse verkiezingen
• Er zijn verschillende verhalen bij betrokken, maar de ISD geeft toe dat de betrokkenheid bij de inhoud laag is

De campagne maakt gebruik van AI en een netwerk van sociale media-accounts om Amerikaanse verkiezingsonderwerpen te bespreken en uit te lokken, waaronder kwesties als drugsmisbruik, dakloosheid en wapengeweld. 

Ongeveer de helft van de wereldbevolking neemt dit jaar deel aan verkiezingen , wat leidt tot wijdverbreide bezorgdheid over het potentieel van AI deep fakes om desinformatie te versterken en stemgedrag te beïnvloeden. 

Met name maakt de ‘Spamouflage’-campagne gebruik van door AI gegenereerde en gemanipuleerde beelden van politieke figuren als Joe Biden en Donald Trump om de politieke verdeeldheid te accentueren en uit te buiten.

Het rapport van de ISD onthult : “De online campagne maakte gebruik van kunstmatige intelligentie (AI) en een netwerk van sociale media-accounts in een duidelijke poging om het imago van de VS als een land vol drugsmisbruik, dakloosheid en wapengeweld te schaden.” 

Elise Thomas van ISD zei over de aantekeningen in het rapport: “Onder de gepropageerde verhalen bevinden zich beweringen over drugsgebruik door president Biden om zijn spreekvaardigheid in het openbaar te verbeteren en beschuldigingen van corruptie.” 

Deze operatie, vermoedelijk van Chinese oorsprong, is in ieder geval sinds 2017 actief. 

Nieuwe ontwikkelingen deden zich voor in april 2023 toen het Amerikaanse ministerie van Justitie veertig medewerkers van de 912 Special Projects Working Group van het Chinese ministerie van Openbare Veiligheid aanklaagde, waarbij werd gewezen op hun betrokkenheid bij wat waarschijnlijk de ‘Spamouflage’-campagne is. 

De focus van ‘Spamouflage’ is nu verschoven naar de strijd tussen Biden en Trump. Afbeeldingen zijn duidelijk door AI gegenereerd, een veelgebruikte tactiek onder bedreigingsactoren die de technologie gebruiken om visueel impactvolle, hoogwaardige deep fakes te creëren. 

OpenAI en Microsoft hebben onlangs samengewerkt om bedreigingsactoren te ontwrichten die hun AI-technologieën gebruiken voor propaganda en deep fake-doeleinden. 

Er blijven echter deep-fake-beelden door inhouddetectiesystemen glippen, zodat ze door miljoenen mensen kunnen worden bekeken.

Verhalen die de ‘Spamouflage’-campagne vormgeven

De ISD, opgericht in 2006 als een non-profit, onpartijdige organisatie met als doel desinformatie aan te pakken, identificeerde verschillende belangrijke verhalen in de inhoud: 

Verdeeldheid over de verkiezingen: dit verhaal portretteert de verkiezingen als een katalysator voor verdere verdeeldheid, waardoor de bestaande uitdagingen van Amerika worden verergerd. Afbeeldingen laten Biden en Trump vaak confronterend zien, wat erop duidt dat de diepgewortelde politieke verdeeldheid wordt uitgebuit.

Negatieve focus op Biden: De campagne lijkt zich onevenredig op president Biden te richten met negatieve verhalen, waaronder beschuldigingen van corruptie en drugsgebruik. Dit zou een strategische keuze kunnen zijn of alleen maar kunnen weerspiegelen dat hij de huidige president is. 

Dubbelzinnige houding ten opzichte van Trump: Interessant genoeg heeft de inhoud met betrekking tot Trump vaak een dubbelzinnige toon die als positief kan worden opgevat.

Verhalen over nationaal verval: Een aanzienlijk deel van de inhoud richt zich op het schetsen van een grimmig beeld van de VS, waarbij het stedelijk verval, de opioïdencrisis en wapengeweld aan bod komen om een ​​gevoel van chaos te bevorderen. 

Het in twijfel trekken van de verkiezingsintegriteit: Hoewel dit geen primaire focus is, is er inhoud die twijfel doet rijzen over de verkiezingsintegriteit.

Abortusbeleid: De kwestie van abortus komt in sommige afbeeldingen naar voren, waarbij sommige inhoud suggereert dat Biden ontoereikend is bij het beschermen van abortusrechten, afgewisseld met beweringen dat Trump een federaal verbod op abortus nastreeft.

Spamouflage zou internationale invloed kunnen hebben

Het ‘Spamouflage’-netwerk was voornamelijk actief in de VS, maar het OSINT-team van India Today ontdekte bewijs van de activiteiten van de campagne in India. Het is onmogelijk om te weten hoeveel van dit soort campagnes er momenteel wereldwijd actief zijn. 

Meta’s reactie op deze campagne was snel en verwijderde duizenden accounts die aan de inhoud waren gekoppeld. X werd echter bekritiseerd vanwege zijn trage reactie.

Ondanks de uitgebreide inspanningen van de ‘Spamouflage’-campagne blijft de effectiviteit ervan in termen van echte betrokkenheid van gebruikers van sociale media twijfelachtig. 

Het ISD-rapport suggereert dat de meeste inhoud die door dit netwerk wordt gegenereerd, niet resoneert met het publiek, wat leidt tot minimale interactie.

Ik moet zeggen dat de meeste berichten ronduit belachelijk zijn. Je begrijpt waarom ze onmiddellijk werden ontslagen. 

Onderzoek heeft echter aangetoond dat deep fake-beelden een tastbare impact hebben op menselijke besluitvormingsprocessen, dus het is nog te vroeg om de impact ervan af te schrijven. 

Hoe dan ook herinnert de ‘Spamouflage’-campagne ons opnieuw aan de rol van AI in een opkomend tij van geavanceerde desinformatie.