Deepfakes zijn nog nieuw, maar 2024 zou het jaar kunnen zijn waarin ze impact hebben op de verkiezingen

Desinformatie heeft veel mensen overrompeld tijdens het Brexit-referendum van 2016 en de Amerikaanse presidentsverkiezingen . Sindsdien heeft zich een mini-industrie ontwikkeld om dit te analyseren en tegen te gaan.

Maar ondanks dat zijn we 2024 – een jaar met ruim veertig verkiezingen wereldwijd – ingegaan met meer angst dan ooit voor desinformatie. In veel opzichten is het probleem uitdagender dan in 2016.

De vooruitgang in de technologie sindsdien is daar één reden voor, met name de ontwikkeling die heeft plaatsgevonden met synthetische media, ook wel bekend als deepfakes. Het wordt steeds moeilijker om te weten of media door een computer zijn verzonnen of gebaseerd zijn op iets dat echt is gebeurd.

We moeten nog echt begrijpen hoe groot de impact van deepfakes op verkiezingen kan zijn. Maar een aantal voorbeelden wijzen de weg naar hoe ze kunnen worden gebruikt. Dit kan het jaar zijn waarin veel fouten worden gemaakt en lessen worden geleerd.

Sinds de desinformatie die rond de verkiezingen in 2016 werd verspreid, hebben onderzoekers talloze boeken en artikelen geproduceerd, hebben journalisten zich omgeschoold tot deskundigen op het gebied van fact checking en verificatie , en hebben regeringen deelgenomen aan ‘grote commissies’ en kenniscentra. Bovendien zijn bibliotheken het middelpunt geworden van strategieën voor het opbouwen van veerkracht en is er een reeks nieuwe instanties ontstaan ​​die analyses, training en hulpmiddelen bieden.

Deze activiteit is niet vruchteloos geweest. We hebben nu een genuanceerder begrip van desinformatie als een sociaal, psychologisch, politiek en technologisch fenomeen. Pogingen om de journalistiek van algemeen belang en het cultiveren van kritisch denken door middel van onderwijs te ondersteunen, zijn ook veelbelovend. Het meest opvallend is dat grote technologiebedrijven zich niet langer voordoen als neutrale platforms .

Intussen hebben beleidsmakers hun plicht herontdekt om technologie in het algemeen belang te reguleren.

AI en synthetische media

Discussies over regelgeving hebben de urgentie vergroot nu AI-instrumenten om synthetische media te creëren – media die geheel of gedeeltelijk door computers zijn gegenereerd – mainstream zijn geworden. Deze deepfakes kunnen worden gebruikt om de stem en het uiterlijk van echte mensen te imiteren. Deepfake-media zijn indrukwekkend realistisch en vereisen niet veel vaardigheden of middelen.

Dit is het hoogtepunt van de bredere digitale revolutie waarbij opeenvolgende technologieën de productie van hoogwaardige inhoud voor vrijwel iedereen toegankelijk hebben gemaakt. Regelgevingsstructuren en institutionele normen voor media zijn daarentegen grotendeels ontworpen in een tijdperk waarin slechts een minderheid van de professionals toegang had tot productie.

Politieke deepfakes kunnen verschillende vormen aannemen. Bij de recente Indonesische verkiezingen was er een deepfake-video te zien waarin wijlen president Soeharto ‘weer tot leven kwam’ . Dit was ogenschijnlijk om mensen aan te moedigen om te stemmen, maar het werd ervan beschuldigd propaganda te zijn omdat het werd geproduceerd door de politieke partij die hij leidde.

Misschien is een meer voor de hand liggend gebruik van deepfakes het verspreiden van leugens over politieke kandidaten. In nep-AI-gegenereerde audio die enkele dagen vóór de Slowaakse parlementsverkiezingen in september 2023 werd vrijgegeven, werd bijvoorbeeld geprobeerd de leider van het progressieve Slowakije, Michal Šimečka, af te schilderen als iemand die met een journalist had besproken hoe de verkiezingen konden worden gemanipuleerd.

Afgezien van de voor de hand liggende poging om een ​​politieke partij te ondermijnen, is het de moeite waard om op te merken hoe deze deepfake, waarvan de oorsprong onduidelijk was, een voorbeeld is van bredere pogingen om minderheden tot zondebok te maken en de reguliere journalistiek te demoniseren.

Gelukkig was de audio in dit geval niet van hoge kwaliteit, waardoor het voor factcheckers sneller en gemakkelijker werd om de onauthenticiteit ervan te bevestigen. De integriteit van democratische verkiezingen kan echter niet berusten op de onbekwaamheid van de fakers.

Deepfake-audiotechnologie is zo geavanceerd dat detectie moeilijk wordt . Deepfake-video’s worstelen nog steeds met bepaalde menselijke kenmerken, zoals de weergave van handen, maar de technologie is nog jong.

Het is ook belangrijk op te merken dat de Slowaakse video werd vrijgegeven tijdens de laatste dagen van de verkiezingscampagne. Dit is een uitstekend moment om desinformatie- en manipulatieaanvallen te lanceren, omdat de doelwitten en onafhankelijke journalisten hun handen vol hebben en daarom weinig tijd hebben om te reageren.

Als het ook duur, tijdrovend en moeilijk is om deep fakes te onderzoeken, dan is het niet duidelijk hoe verkiezingscommissies, politieke kandidaten, de media of zelfs het electoraat moeten reageren als zich potentiële gevallen voordoen. Een valse beschuldiging van een deepfake kan immers net zo verontrustend zijn als de daadwerkelijke deepfake.

Een andere manier waarop deepfakes kunnen worden gebruikt om verkiezingen te beïnvloeden, is de manier waarop ze al op grote schaal worden gebruikt om vrouwen en meisjes lastig te vallen en te misbruiken . Dit soort seksuele intimidatie past in een bestaand patroon van misbruik dat de politieke participatie van vrouwen beperkt.

De electorale integriteit in twijfel getrokken

De moeilijkheid is dat het nog niet precies duidelijk is welke impact deepfakes op de verkiezingen kunnen hebben. Het is heel goed mogelijk dat we dit jaar bij de komende verkiezingen ander, vergelijkbaar gebruik van deepfakes zullen zien. En we zouden zelfs deepfakes kunnen zien die worden gebruikt op manieren die nog niet zijn bedacht.

Maar het is ook de moeite waard om te onthouden dat niet alle desinformatie hightech is. Er zijn andere manieren om de democratie aan te vallen. Geruchten en complottheorieën over de integriteit van het verkiezingsproces zijn een verraderlijke trend. Verkiezingsfraude is een mondiaal probleem, aangezien veel landen slechts in naam een ​​democratie zijn.

Het is duidelijk dat sociale-mediaplatforms desinformatie op veel manieren mogelijk maken en bevorderen, maar het is een vergissing om aan te nemen dat het probleem online begint en eindigt. Eén manier om na te denken over de uitdaging van desinformatie tijdens de komende verkiezingen is na te denken over de kracht van de systemen die de democratie moeten handhaven.

Bestaat er een onafhankelijk mediasysteem dat onderzoek van hoge kwaliteit in het algemeen belang kan leveren? Zijn er onafhankelijke verkiezingsbestuurders en -organen? Zijn er onafhankelijke rechtbanken die indien nodig uitspraak kunnen doen?

En is er onder politici en politieke partijen voldoende commitment voor democratische waarden boven eigenbelang? Dit verkiezingsjaar zullen we wellicht het antwoord op deze vragen te weten komen.