“Superverspreiders van misinformatie”: Elon Musk steunt persoonlijk complottheoretici op X

Vier van de vijf belangrijkste accounts waarmee Musk regelmatig communiceert, versterken of creëren ongefundeerde samenzweringstheorieën

Volgens een nieuw rapport verspreidt Tesla-CEO Elon Musk veelvuldig desinformatie op zijn socialemediaplatform X, voorheen Twitter.

Uit een analyse van NewsGuard blijkt dat Musk minstens 17 valse verhalen heeft aangedragen uit de database met misinformatie van de groep, variërend van het delen van een video waarin het verhaal wordt gepromoot dat Haïtianen huisdieren eten tot het beschuldigen van Democraten van “het importeren van kiezers”. De miljardair versterkt ook regelmatig enkele van de ergste boosdoeners van het platform wat betreft het verspreiden van valse beweringen: van de vijf accounts waarmee hij het vaakst communiceert, zijn er vier “superverspreiders van misinformatie” die als gevolg daarvan hun aantal volgers hebben vergroot.

Eén account, @EndWokeness, dat racistische leugens verspreidde over Haïtiaanse immigranten, zag een stijging van 30% in het aantal volgers in de zes maanden waarin Musk het aantal herhaaldelijk verhoogde. Een ander account, @libsoftiktok, wiens anti-LGBTQ+-retoriek bommeldingen in een kinderziekenhuis inspireerde en die ten onrechte beweerde dat scholen kattenbakken hadden verstrekt aan kinderen die zich als kat identificeerden, zag een groei van 14,8% in hun aantal volgers.

Dinsdag reageerde Musk op een rapport van @EndWokeness waarin kritiek werd geuit op de overname van een radiostationgroep door het bedrijf van George Soros. Hij schreef ‘Crazy’ in een citaat-tweet die 29 miljoen keer is bekeken. 

Twee andere verhalen die door Musk een enorme boost kregen, versterkten of verzonnen complottheorieën. Deze theorieën suggereren dat de campagne van vicepresident Kamala Harris een nazistische slogan had; dat Oekraïne wapens aan Hamas verkocht; en dat Venezolaanse immigranten een appartementencomplex hadden overgenomen.

Deze uitbreidingen komen op een moment dat er zorgen zijn dat Musk, die een steeds extremere toon aanslaat, een enorm breed draagvlak heeft.

Musk, die zijn zorgen uitte over recente berichten waarin geweld tegen Harris en president Joe Biden werd aangemoedigd, kan bogen op bijna 200 miljoen volgers op X, een stijging van 19% ten opzichte van januari van dit jaar.

Uit de analyse van NewsGuard bleek daarentegen dat enkele van de grootste reguliere accounts op het platform, waaronder oudere mediakanalen, een stagnerende groei of een daling van het aantal volgers zagen. 

De analyse volgt eerdere bevindingen van het Center for Countering Digital Hate, dat in augustus een rapport publiceerde waarin 50 gevallen werden geïdentificeerd waarin Musk in 2024 valse verkiezingsclaims plaatste, goed voor bijna 1,2 miljard views. Musk verloor in juli 2023 een rechtszaak tegen het centrum waarin hij het beschuldigde van samenzwering om adverteerders van zijn X-platform te verdrijven.

Musk, die Twitter aanvankelijk kocht met de vermeende bedoeling om de transparantie en vrijheid van meningsuiting op het platform te vergroten, zag een toename van haatdragende inhoud en leugens op het platform, terwijl hij tegelijkertijd moderatie-aanpassingen doorvoerde om bepaalde uitingen aan banden te leggen, door woorden als ‘cisgender’ te verbieden voor X.  

Musk zou het X-platform ook hebben gebruikt om de verspreiding van informatie die hij onaangenaam vindt, tegen te gaan. Zo censureerde hij recente berichtgeving over door de Iraanse overheid gehackte documenten van de Trump-campagne, schorste hij pro-Harris-organisaties op het platform en markeerde hij de afgelopen weken ongunstige berichten over de Trump-campagne als spam.

Elon Musk is een van de meest productieve verspreiders van misinformatie op zijn platform: hij heeft direct 17 valse verhalen naar voren gebracht die voorkomen in de database van NewsGuard met 2.757 aantoonbaar valse claims, bekend als Misinformation Fingerprints. Maar zijn rol in het verspreiden van misinformatie reikt veel verder dan zijn persoonlijke X-account. Een nieuwe analyse door NewsGuard heeft ontdekt dat Musk, naast zijn eigen stroom van valse claims, een frequente aanjager is van andere superverspreiders van misinformatie, en door zijn betrokkenheid helpt om hun volgersaantallen drastisch te vergroten.

Wat er gebeurde: Tussen januari en juni 2024 verspreidden vier van de vijf accounts waarmee Musk het vaakst contact had op X, volgens een analyse van NewsGuard, herhaaldelijk desinformatie. Dat betekent dat ze allemaal eerder door NewsGuard waren gemarkeerd omdat ze minstens zeven valse beweringen naar voren brachten.

• Musks enorme X-aanhang maakt zijn versterking van valse informatie extra significant. Met 199 miljoen volgers heeft Musk 22 keer zoveel volgers als het officiële Witte Huis-account, negen keer meer dan The Wall Street Journal, drie keer meer dan The New York Times en twee keer zoveel als popster Taylor Swift.

Een nadere blik: We hebben meer dan 4.000 berichten van Musk bekeken van 1 januari 2024 tot en met 30 juni 2024 om te zien met welke accounts hij het vaakst communiceerde. Interacties omvatten wanneer Musk een link plaatst, een bericht citeert, reageert op een bericht of een repost plaatst.

Dit zijn de vijf belangrijkste accounts waarmee Musk in de afgelopen zes maanden contact had, volgens het onderzoek van NewsGuard: 

1. @EndWokeness (220 Musk interactions), een conservatieve commentator, heeft negen valse beweringen verspreid, waaronder dat Haïtiaanse migranten huisdieren stelen en opeten in Springfield, Ohio, en dat het lichaam van een vijf maanden oude Palestijnse baby die werd gedood in de oorlog tussen Israël en Hamas in feite een siliconenpop was. Musk had gedurende de periode van zes maanden gemiddeld meer dan eens per dag contact met dit account.
2. @WallStreetSilv (181 interacties), een conservatieve commentator, heeft 12 valse beweringen verspreid, waaronder dat AMC Theatres de kaartverkoop voor een onlangs uitgebrachte film over kinderhandel heeft onderdrukt en dat de campagne van Kamala Harris de slogan van het Duitse naziregime “Kracht door vreugde” heeft overgenomen.
3. @stillgray ( 174 interacties), een conservatieve commentator, heeft acht valse beweringen verspreid, waaronder dat een VN-rapport oproept tot decriminalisering van pedofilie en dat Oekraïne Hamas wapens verkocht die door het Westen waren gedoneerd.
4. @libsoftiktok (132 interacties), een conservatieve commentator, heeft zeven valse beweringen verspreid, waaronder dat een Venezolaanse bende een appartementengebouw in Chicago heeft overgenomen en dat Amerikaanse en Canadese scholen kattenbakken ter beschikking stellen aan kinderen die zichzelf identificeren als katten.
5. @Not_the_Bee (114 interacties) is het X-account van Notthebee.com, een nieuws- en humorwebsite die wordt gerund door de oprichter van de satirische site The Babylon Bee. NewsGuard heeft niet ontdekt dat het valse claims verspreidde.

Het Musk-effect? ​​Musks frequente betrokkenheid bij deze accounts kan een rol hebben gespeeld in de groei van hun volgers, volgens gegevens van de social media-analysesite SocialBlade.

• In deze periode van zes maanden, van januari 2024 tot juni 2024, steeg het aantal volgers van @EndWokeness van 2 miljoen naar 2,6 miljoen, een stijging van 30 procent. @WallStreetSilv groeide van 1,1 miljoen naar 1,35 miljoen, een stijging van 22,7 procent. @stillgray steeg van 879.000 naar 1 miljoen, een stijging van 13,8 procent, en @libsoftiktok zag een stijging van 2,7 miljoen naar 3,1 miljoen, een stijging van 14,8 procent. @Not_the_Bee ervoer een stijging van 373.000 naar 429.000, wat een groei van 15 procent vertegenwoordigt.

Mainstream accounts zagen een bescheiden groei in dezelfde periode. Tussen januari 2024 en juni 2024 zag The New York Times (@nytimes) bijvoorbeeld een stijging van slechts 0,05 procent, van 55,19 miljoen volgers naar 55,22 miljoen. The Wall Street Journal (@WSJ) had een lichte daling, van 20,64 miljoen naar 20,63 miljoen. Het officiële Witte Huis-account (@WhiteHouse) had een bescheiden stijging van 0,85 procent, van 8,79 miljoen naar 8,86 miljoen. 

NewsGuard stuurde een e-mailbericht naar X, Tesla en SpaceX met vragen over het bovenstaande, maar ontving niet onmiddellijk een reactie. @EndWokeness, @stillgray en @libsoftiktok reageerden niet onmiddellijk op directe berichten van NewsGuard met vragen over het bovenstaande. NewsGuard stuurde ook een bericht naar @WallStreetSilv met behulp van een contactformulier dat op het X-profiel van de gebruiker stond.

Wat er is gebeurd: Nadat rapper Sean “Diddy” Combs op 16 september 2024 werd gearresteerd op beschuldiging van seks, verspreiden conservatieve en liberale gebruikers van sociale media nepfoto’s en -video’s om te beweren dat vicepresident Kamala Harris en voormalig president Donald Trump banden hebben met de in ongenade gevallen muziekmagnaat.

Een nadere blik: Conservatieven gebruiken een nepfoto en misleidende bijschriften om te beweren dat vicepresident Kamala Harris meerdere keren met Combs is gezien en dat zij zijn beruchte ‘freak-offs’-feestjes heeft bezocht, waarbij aanklagers beweren dat Combs de aanwezigen seksuele handelingen heeft zien verrichten.

• Gebruikers plaatsten een afbeelding waarop Harris op een rode loper naast Combs te zien is, met bijschriften die impliceerden dat Harris medeplichtig is aan zijn vermeende misdaden. Anderen plaatsten een video waarop Harris met een zwarte man op dezelfde rode loper te zien is, die gebruikers ten onrechte identificeren als Combs. 
• Sommige sociale media-accounts kregen miljoenen views door de video te posten met identieke onderschriften, ogenschijnlijk in een gecoördineerd botnetwerk , dat verklaarde dat de video bewijst dat Harris “geen onbekende is op Diddy-feestjes.” 

Eigenlijk: De foto waarop Harris naast Combs staat, is digitaal bewerkt en in de video is Combs niet te zien.

• De originele afbeelding , genomen tijdens een fondsenwervingsevenement in 2001, toont Harris daadwerkelijk naast haar toenmalige vriendje Montel Williams. Williams’ hoofd werd verwisseld met dat van Combs in de gemanipuleerde versie.

De video is van hetzelfde evenement en toont ook Harris met Williams. Het werd oorspronkelijk gepubliceerd door Inside Edition (NewsGuard Trust Score: 92.5/100) .

NewsGuard kon geen betrouwbare berichtgeving vinden die Harris en Combs in verband bracht.

• De enige gedocumenteerde interactie tussen Harris en Combs die NewsGuard vond, is een tweet van Harris uit april 2020, waarin ze Combs bedankte voor het organiseren van een bijeenkomst om raciale ongelijkheid tijdens de COVID-19-pandemie aan te kaarten.

Hoe het aansloeg: De bewerkte afbeelding is gemaakt door het conservatieve meme X-account @grandoldmemes. Het watermerk staat in de rechterbovenhoek van de afbeelding. 

• Het account plaatst regelmatig opvallend gemanipuleerde afbeeldingen die Democraten in een negatief daglicht stellen en biedt op zijn website een service aan waarmee gebruikers aangepaste memes kunnen aanvragen en kopen. (@grandoldmemes heeft niet gereageerd op een verzoek om commentaar per e-mail.)

De afbeelding werd vervolgens door conservatieve accounts gepost , zonder dat daarbij werd vermeld dat het oorspronkelijk als meme was gemaakt.

• Oud-president Donald Trump versterkte de afbeelding door deze kort opnieuw te posten op zijn socialemediaplatform Truth Social op 19 september 2024. De afbeelding die hij opnieuw postte, had als onderschrift: “Kamala Doing the Diddy? Mevrouw de vicepresident, bent u ooit betrokken geweest bij of betrokken geweest bij een van Puff Daddies Freak Offs?” De repost werd vervolgens zonder uitleg verwijderd.

Niet alleen Harris: Trump was ook het doelwit van een gemanipuleerde foto en video met Combs, hoewel deze berichten niet dezelfde aandacht kregen als de foto van Harris.

In april 2024, nadat federale agenten Combs’ woning hadden doorzocht, voegde een onbekende acteur Combs digitaal toe aan een reeds door AI gegenereerde afbeelding die Trump toonde met veroordeelde zedendelinquent Jeffrey Epstein, omringd door jonge vrouwen. De foto verspreidde zich bescheiden onder enkele liberale gebruikers van sociale media.

Zo plaatste de liberale X-gebruiker @GinnyMcDonald8 op 12 april 2024 de bewerkte afbeelding met het onderschrift: ‘Bijbelstudie’. De post werd op 26 september 2024 iets meer dan 800 keer bekeken en kreeg 45 likes.

In september 2024 verspreidde zich ook een digitaal gemanipuleerde video op sociale media die Trump zou laten zien terwijl hij Combs interviewt. De video werd gemaakt door het YouTube-account THE TALK, dat zegt dat het “gesprekken die nooit hebben plaatsgevonden tussen mensen die elkaar nooit hebben ontmoet” maakt.

• Het voorbeeld met de hoogste betrokkenheid van deze video dat NewsGuard vond, werd op 18 september 2024 gepost door de liberale TikTok-gebruiker @chittybangbang9. De video werd in één week ongeveer 600.000 keer bekeken en kreeg 17.000 likes.

Trucs van ons vak: Het kan lastig zijn om te bepalen of een afbeelding of video digitaal is aangepast. Hier zijn enkele tips over hoe we de Combs-Harris-foto hebben geanalyseerd:

• Hoewel het watermerk duidelijk aangeeft dat de afbeelding digitaal is gemanipuleerd, zorgt de subtiele plaatsing ervoor dat het opgaat in de achtergrond en gemakkelijk over het hoofd wordt gezien. (NewsGuard heeft zelfs een rode cirkel om het watermerk in de onderstaande foto toegevoegd, omdat het zo moeilijk te zien is!)

• Een zoekopdracht op omgekeerde afbeeldingen levert de originele foto op, gepubliceerd door Getty Images, waarop het gezicht van Combs te zien is. De foto is afkomstig van een rode loperfoto van de Grammy Awards 2020, gemaakt door fotobureau WireImage.
• Bij nadere inspectie van de afbeelding zijn onregelmatigheden rond Combs’ hoofd te zien. Zijn gezicht is in een hogere resolutie te zien dan op de rest van de foto en er is een onnatuurlijke overgang zichtbaar tussen zijn nek en shirt.

Combs zit vast op federale aanklachten van sekshandel, afpersing en transport om zich bezig te houden met prostitutie. Aanklagers beweren dat Comb zijn status en middelen gebruikte om “zijn seksuele verlangens te bevredigen” in een “terugkerend en algemeen bekend” patroon van misbruik op feesten die bekend staan ​​als “freak-offs”. Combs pleitte op 17 september 2024 niet schuldig aan alle aanklachten. Epstein, afgebeeld op de door Trump bewerkte foto, pleitte schuldig aan twee prostitutieaanklachten en stierf in de gevangenis na 13 maanden te hebben vastgezeten.

Twee stappen in desinformatie?

Wat er is gebeurd: Pro-Kremlinbots verspreiden een countrymuziekvideo waarin valse beweringen over de Oekraïense president Volodoymr Zelensky worden gedaan en de Amerikaanse presidentsverkiezingen worden bespot.

• Het lied zegt: “Ze vermoorden landen, bommen en met leugens steunen ze een drugsverslaafde die verdwaald is in de lucht “

Volgens Antibot4navalny, een anonieme vrijwilligersgroep die Russische beïnvloedingsacties in de gaten houdt, zijn deze accounts gelinkt aan Doppelgänger, een Russische desinformatiecampagne die zijn naam dankt aan de tactiek om vervalste versies van gerenommeerde mediakanalen te creëren.

Een nadere blik: de video , begeleid door wat lijkt op door AI gegenereerde countrymuziek, toont aangepaste beelden van Zelensky die cocaïne snuift – sommige zien er echt uit, sommige duidelijk nep – terwijl het countrynummer stelt dat Amerika “een drugsverslaafde steunt”.

• De video toont ook stockfoto’s van vicepresident Kamala Harris en voormalig president Donald Trump, terwijl een vermeende countrymuzikant zingt: “Amerika is gek geworden, verdwaald in de nacht twee dwazen vechten om de macht, zonder einde in zicht.

Context: Sinds de Russische inval in Oekraïne hebben pro-Kremlin media en Russische functionarissen geprobeerd Zelensky in diskrediet te brengen, onder andere door hem te bestempelen als drugsverslaafde. (Er is geen bewijs dat Zelensky cocaïne of andere illegale drugs gebruikt.)

• In april 2022 hebben pro-Russische accounts een video van een telefonische vergadering tussen Zelensky en Elon Musk aangepast om wit poeder en een creditcard op Zelensky’s bureau te leggen. 

Waar het zich verspreidde: Binnen 24 uur na de eerste verschijning op 18 september 2024 werd de videoclip gedeeld door 164 accounts met dubbelgangers, volgens bevindingen die Antibot4navalny met NewsGuard deelde. Deze accounts hebben namen als “BenjaminJo”, “AmyRivas” en “Jason Brown”.

• De video circuleerde in het Engels , Turks, Frans , Pools , Oekraïens en Duits en werd tienduizenden keren bekeken.

Een Russische muziekstudio? Het is onwaarschijnlijk dat Doppelgänger countryalbums opneemt om deze video’s te produceren. De audio draagt ​​de kenmerken van kunstmatige intelligentie, aldus een expert in digitale forensica.

• Ter voorbereiding op de Olympische Spelen in Parijs in 2024 gebruikte Doppelgänger naar verluidt AI om een ​​videoclip te maken waarin de Olympische Spelen belachelijk werden gemaakt. De videoclip zou ten onrechte afkomstig zijn van de Russische raveband Little Big. 

Vrij spel op X: Vanaf 24 september 2024 waren 124 van de aan Doppelgänger gekoppelde X-accounts die de countrymuziekvideo deelden nog steeds op het platform aanwezig, wat duidelijk in strijd is met het beleid van X , waarin staat dat het platform “gecoördineerde activiteiten die proberen om gesprekken kunstmatig te beïnvloeden door het gebruik van meerdere accounts” verbiedt. De overige 40 accounts zijn inmiddels opgeschort.

X heeft niet gereageerd op een e-mail van NewsGuard van september 2024 waarin om commentaar werd gevraagd.