Indignatie redactie 
“Recept voor een ramp”: experts waarschuwen nadat Elon Musk nep-AI-video van Kamala Harris deelt
AI-manipulatie zou altijd een probleem zijn, maar vooraanstaande Trump-aanhangers zoals Musk maken het erger
X-eigenaar Elon Musk’s reshare van een gemanipuleerde, nepcampagneadvertentie voor vicepresident Kamala Harris op sociale media vorige week wekte alarmbellen omdat hij niet bekendmaakte dat de clip, die rechtse opvattingen over de waarschijnlijke Democratische kandidaat napraatte, een parodie was. Maar experts waarschuwen dat de zet het potentieel van AI belicht om het wantrouwen in verkiezingsinstellingen verder in te bedden onder kiezers voorafgaand aan de verkiezingen van 2024.
Musk plaatste vrijdagavond de gemanipuleerde video van Harris opnieuw op X. De clip, die grotendeels dezelfde beelden gebruikte als haar eerste presidentiële campagneadvertentie, bevatte een nieuwe voice-over die digitaal leek te zijn aangepast om te klinken als Harris.
“Ik, Kamala Harris, ben jullie Democratische kandidaat voor het presidentschap omdat Joe Biden eindelijk zijn seniliteit liet zien tijdens het debat”, zegt de stem in de clip. “Ik ben geselecteerd omdat ik de ultieme diversiteitsaanwinst ben. Ik ben zowel een vrouw als een persoon van kleur, dus als je kritiek hebt op wat ik zeg, ben je zowel seksistisch als racistisch.”
In de video wordt verder gezegd dat Harris “geen flauw benul heeft van het besturen van het land” en wordt Biden de “ultieme marionet van de diepe staat” genoemd, terwijl de campagnebranding van de vicepresident behouden blijft en authentieke fragmenten van eerdere spreekbeurten van Harris worden toegevoegd.
De virale video onderstreept het potentieel van door AI gegenereerde afbeeldingen, audio en video’s om politieke desinformatie te verspreiden, zelfs als ze proberen de spot te drijven met parodie of satire, een probleem dat verergerd werd in een zeer omstreden verkiezingsjaar en door het afnemende vertrouwen van Amerikanen in het verkiezingsproces van het land. Hoewel Musks bericht verre van de eerste is die controverse veroorzaakt, is het een teken van welke rol AI deepfakes kunnen spelen – en hoe ver ze kunnen reiken – in het zaaien van twijfel terwijl kiezers zich voorbereiden op november, aldus Mekela Panditharatne, senior counsel bij de afdeling verkiezingen en overheid van het NYU Brennan Center for Justice.
“Het symboliseert deze periode waarin we de groeiende verspreiding van generatieve AI en de impact ervan op verkiezingen en de informatieomgeving zien,” zei ze, opmerkend dat soortgelijke deepfakes het afgelopen jaar steeds gebruikelijker zijn geworden. Hoewel deepfakes voorafgingen aan de opkomst van generatieve AI, zorgt de laatste ervoor dat deepfakes “zich veel sneller kunnen verspreiden,” terwijl het “makkelijker en goedkoper is om geavanceerder ogende en klinkende content te produceren.”
Omdat de informatieomgeving erg gepolariseerd is, kan het herkennen van parodie in een clip als die van Musk enorm verschillen van waarnemer tot waarnemer, zelfs voor content die “heel realistisch lijkt, maar redelijkerwijs” als parodie moet worden opgevat, aldus Panditharatne. Content die door het ene type publiek gemakkelijk of snel als parodie kan worden opgevat, wordt door een ander publiek mogelijk niet als zodanig opgevat, “vooral als de content aansluit bij hun vooropgezette ideeën over hoe een kandidaat is” of hun persoonlijke politiek.
Oren Etzioni, emeritus hoogleraar computerwetenschappen aan de Universiteit van Washington en oprichter en CEO van het Allen Institute for AI, vertelde Salon dat de deepfake-advertentie van Harris “voor het blote oog” “verrassend goed gemaakt” was.
Regelmatige X-gebruikers die de clip zagen, konden doorklikken naar het originele bericht en zagen dat de oorspronkelijke poster verklaarde dat het een parodie was. Etzioni zei echter dat met meer dan 130 miljoen views sommige gebruikers Musks bericht, dat alleen het onderschrift “Dit is geweldig” bevat met een lachende huilende emoji, zullen zien en het als “informatief” of zelfs “echt” zullen beschouwen.
Die dynamiek creëert een desinformatieprobleem dat vierledig is, legde hij uit. Ten eerste consumeren steeds meer Amerikanen een deel, zo niet al hun nieuws via sociale media, waardoor “echte feiten” “naast onwaarheden” kunnen leven. Ten tweede is er de manier waarop mensen “de neiging hebben om visuele dieren te zijn” en op een “zeer viscerale manier” reageren op wat ze zien, en ten derde is er het gemak waarmee individuen “gemanipuleerde of gefabriceerde beelden, video en audio kunnen creëren die daarop inspelen.”
“Die combinatie betekent dat anonieme gebruikers iets kunnen creëren dat er echt uitziet en nep is, dat aantrekkelijk lijkt, maar het is niet waar,” zei Etzioni, die ook TrueMedia.org oprichtte, een non-profitorganisatie die de verspreiding van online deepfakes en desinformatie wil tegengaan door een gratis online factcheckingtool aan te bieden. “Als je dat dan combineert met de laatste spijker in de doodskist, namelijk dat iemand met een breed publiek en met een beetje eigen geloofwaardigheid, zoals Elon Musk, dat deelt zonder enige waarschuwing, dan is dat een recept voor een ramp.”
Generatieve AI deepfakes zowel binnen als buiten de VS hebben eerder gedreigd kiezers te beïnvloeden door middel van humor, misinformatie of een combinatie van beide, aldus The Associated Press . Nep-audioclips die in 2023 in Slowakije circuleerden, lieten een kandidaat zien die een plan bedacht om een verkiezing te vervalsen en de prijs van bier te verhogen, dagen voor de stemming, terwijl een satirische advertentie van een politiek actiecomité uit 2022 het gezicht van een burgemeesterskandidaat uit Louisiana aan een acteur koppelde die hem afbeeldde als een onderpresterende middelbare scholier.
Harris’ voormalige running mate is ook een frequent slachtoffer van de technologie. Eerder dit jaar spoorde een deepfake robocall met Bidens stem kiezers in New Hampshire aan om de Democratische voorverkiezingen van de staat over te slaan, en vorige week verscheen er een deepfake-video van zijn aankondiging van terugtrekking uit de campagne, waarop de president zijn critici uitscheldt.
“De potentiële verspreiding van content die kandidaten of functionarissen op verstorende wijze afbeeldt op manieren die de perceptie van mensen over die kandidaten en functionarissen manipuleren, die het verkiezingsproces zelf ondermijnen – dat is een zeer verontrustend vooruitzicht”, aldus Panditharatne, die uitlegde dat het risico voor kijkers van de content om misleid te worden het grootst is in de periode direct nadat de deepfake live gaat.
Misinformatie, propaganda, xenofobie: Elon Musk liet het allemaal zien tijdens een turbulent weekend op Twitter.
Elon Musk – Sommige miljardairs geven hun geld uit aan het kopen van sportteams of rechters van het Hooggerechtshof. Anderen bouwen casino’s graag de grond in, en een paar gebruiken een deel van hun rijkdom voor filantropische doeleinden. En Elon Musk, de rijkste man ter wereld, die af en toe wel/niet rijk is? Nou, hij heeft het weekend doorgebracht met zich te gedragen als een oneerlijke demagoog, een hypocriet, een huilebalk en een xenofoob op het platform dat hij voor 44 miljard dollar kocht. Oh, en hij heeft blijkbaar ook de servicevoorwaarden van zijn eigen website overtreden.
Laten we eerst eens kijken naar de grootste controverse.
Een paar dagen geleden plaatste de conservatieve commentator Christopher Kohls een nepcampagneadvertentie van vicepresident Kamala Harris op Twitter* en noemde deze duidelijk een ‘parodie’ (hoewel het gebruik van een door AI gegenereerde versie van Harris’ stem de grens tussen parodie en pleidooi vervaagt).
Musk deelde die video vervolgens met zijn 191 miljoen volgers zonder de moeite te nemen om te benadrukken dat de advertentie nep was. In plaats daarvan reageerde hij simpelweg met: “Dit is geweldig” en een lachende emoji.
Hoewel het originele bericht niet in strijd was met de regels van Twitter, was de repost dat wel.
“Je mag geen synthetische, gemanipuleerde of uit de context gehaalde media delen die mensen kunnen misleiden of verwarren en tot schade kunnen leiden (‘misleidende media’)”, aldus de regels van Twitter .
Als je ziet dat Musks bericht niet is verwijderd of niet op de juiste manier is gelabeld, lijken die regels niet op de baas te gelden. Dit voedt de zorgen dat de rechtse miljardair het platform voor zijn eigen politieke doeleinden gebruikt.
Maar dat was nog niet alles voor Musk, die ooit op hilarische wijze de New York Times voor de gek hield door hem te laten geloven dat hij iets anders was dan een ultraconservatieve tech-bro.
Zijn ware politieke voorkeuren waren het hele weekend duidelijk zichtbaar.
Hij deelde de laatste klacht van Republikeinen die geloven dat Google een zoekverbod heeft ingesteld op “President Donald Trump” (een probleem dat we niet konden dupliceren op meerdere apparaten in verschillende landen) en suggereerde dat dit “verkiezingsinmenging” zou kunnen zijn.
“Ze brengen zichzelf in grote problemen als ze zich met de verkiezingen bemoeien”, tweette hij later , wat nogal overdreven is voor iemand die zojuist een nep-verkiezingsadvertentie deelde zonder deze als zodanig te bestempelen.
En geen enkele goede Musk-tirade zou compleet zijn zonder de verspreiding van propaganda en misleidende/valse informatie met een vleugje xenofobie (de in Zuid-Afrika geboren ondernemer is een aanhanger van de theorie van de “grote vervanging”).
In dit geval versterkte hij een video die naar verluidt verkiezingsinmenging in Venezuela liet zien. Het liet echter niet de daadwerkelijke verkiezingsinmenging zien die ongetwijfeld plaatsvond, maar eerder de diefstal van enkele airconditioners.
Met andere woorden: hij heeft meer kwaad dan goed gedaan.
Sprekend over die “verkiezing” in het Zuid-Amerikaanse land, reageerde Musk ook op MAGA-propagandist “Gunther Eagleman,” die suggereerde dat, tenzij Donald Trump wordt gekozen, “de Verenigde Staten Venezuela zullen worden.”
Musk was van mening dat “het risico hiervan zeer reëel is.”
Wat het werkelijke gevaar voor de Amerikaanse democratie betreft, versterkte de miljardair ook een bericht waarin hij suggereerde dat de woorden van Donald Trump op de een of andere manier uit hun verband waren gerukt toen de voormalige president christenen vertelde dat dit het laatste jaar was waarin ze moesten stemmen, omdat alles binnen vier jaar ‘opgelost’ zou zijn.
Als bewijs hiervan plaatste hij twee video’s van Trumps toespraak, waarvan er één twee seconden langer was dan de versie die de Wall Street Journal deelde .
Dus, wat lieten die extra twee seconden zien? Zei Trump “Geintje” of maakte hij een andere verduidelijkende opmerking? Nee, hij zei gewoon weer hetzelfde.
En dat is nog maar het topje van de ijsberg van Musks verspreiding van desinformatie en propaganda in slechts één weekend.
Het enige goede aan dit alles is dat hij eindelijk zijn ware aard laat zien, op een manier die zelfs de Times niet meer in verwarring zal brengen.
*Opmerking van de redacteur: Hoewel Elon Musk de naam van het platform heeft veranderd van “Twitter” naar “X”, zijn we niet geïnteresseerd in het inspelen op de grillen van elke miljardair-mankind. Daarom blijven we Twitter gebruiken en vertrouwen we erop dat onze scherpzinnige lezers zullen begrijpen waar we het over hebben.
