Indignatie redactie 
Er circuleren talloze deepfakes op sociale media. Veel gemanipuleerde inhoud bevindt zich op de dunne grens tussen oppervlakkig entertainment, satire en politiek activisme. Platforms en wetgevers werken aan richtlijnen en verboden – met twijfelachtig effect.
Op TikTok wil Alice Weidel niets liever dan een kofta-spiesje . Kanselier Olaf Scholz is een bodybuilder en danst op popmuziek. Markus Söder geeft Karl Lauterbach eindelijk een “ Bayern-verbod ” met een hit.
Dit zijn deepfakes. Dit zijn media zoals afbeeldingen, audio of video’s die zijn gemanipuleerd met zogenaamde kunstmatige intelligentie. Er bestaat een breed scala aan relatief eenvoudig te gebruiken programma’s voor het produceren van deepfakes.
Wat ooit was voorbehouden aan satirische tijdschriften als Titanic, met hun beruchte omslagfoto’s en goede Photoshop-vaardigheden, kan nu door iedereen in slechts een paar minuten worden gedaan: pronken met de machtigste politici van het land met behulp van deepfakes. Dit maakt laagdrempelige politieke participatie op sociale media door gebruikers mogelijk – maar brengt nog steeds risico’s met zich mee.
Verschillende doelen en vormen
Deepfakes nemen online verschillende vormen aan . Ze verspreiden zich op forums en sociale media als memes, dienen hun makers als instrumenten voor satire, propaganda, desinformatie of zijn digitaal geweld , vooral tegen vrouwen .
Ernstige deepfakes met als doel politieke misleiding zijn tot nu toe relatief snel aan het licht gebracht door gebruikers en journalisten. Platformen als YouTube en Instagram verwijderden vervolgens de video’s.
Aan het begin van de Russisch-Oekraïense oorlog circuleerde kort een deepfake-video van de Oekraïense president op YouTube en Instagram . Daarin riep een zogenaamd echte Volodymyr Zelenski de Oekraïners op tot overgave. De echte Zelenskyj weerlegde de namaak al na een paar minuten met een authentieke video.
Een andere deepfake toonde een Franse autodealer die meldde dat Olena Zelenska, de vrouw van Zelensky, een luxe auto ter waarde van bijna vijf miljoen euro van hem had gekocht. Volgens nieuwszender CNN was de deepfake onderdeel van een Russische desinformatiecampagne .
Daarentegen kan de massa deepfakes uit de Duitse politiek gemakkelijk als nep worden geïdentificeerd. Kunstenaars en contentmakers in dit land gebruiken technologie ook om maatschappelijke debatten op gang te brengen en aandacht te genereren .
De rechtbank van Berlijn verbood begin dit jaar een realistische deepfake van Olaf Scholz waarin werd opgeroepen tot een verbod op de AfD . In principe ondernemen wetgevers en platforms steeds vaker actie tegen deepfakes.
Regulering van ‘realistische’ deepfakes
De Federale Raad heeft onlangs een nieuwe wet tegen deepfakes gepresenteerd , die bedoeld is om de verspreiding ervan strafbaar te stellen. TikTok ‘moedigt’ zijn makers aan om door AI gegenereerde inhoud te labelen in de communityrichtlijnen. Op YouTube moet alle ‘gemanipuleerde of synthetische’ inhoud ‘die realistisch lijkt’ worden gemarkeerd.
Facebook en Instagram geven door AI gegenereerde inhoud het label ‘AI-info’ voor zover de interne systemen van het platform het gebruik van AI herkennen. Makers zijn ook verplicht inhoud te markeren als door AI gegenereerd als deze “fotorealistische video of realistisch klinkend audiomateriaal bevat dat digitaal is gemaakt of bewerkt – ook met AI”.
De officiële richtlijnen van de platforms lijken enige speelruimte te laten. Er zijn een aantal deepfakes van Olaf Scholz , waarvan sommige al maanden op TikTok staan en geen etikettering vereisen. Zelfs etikettering garandeert niet dat alle kijkers het verschil tussen realiteit en nep zullen herkennen.
Wanneer is een deepfake politiek?
TikTok heeft de functies voor accounts van politieke actoren zoals overheden, politici en partijen al beperkt . Deepfakes en memes worden echter meestal geüpload en verspreid via privéaccounts.
Een ongelabelde deepfake met de titel ‘ Alice Weidel spreekt Arabisch ’ is ongeveer een miljoen keer bekeken. Uit het merendeel van de commentaren blijkt de goede trouw en sympathie van de kijkers voor Weidel: “Ze is hoogopgeleid en kent absoluut meer talen”, “De nieuwe bondskanselier” of “Geweldige uitspraak 💙💙💙”.
Zelfs als deepfakes zijn gemarkeerd met watermerken en hashtags, lijken veel gebruikers de vervalsingen niet op te merken. De fans van Alice Weidel zien wellicht ook geen tegenstrijdigheid in de deepfake met hun eigen realiteit. Voor hen zijn de gemanipuleerde video’s slechts opinieversterkers .
De platforms zien de politisering van content waarschijnlijk als een bedreiging voor hun bedrijfsmodellen. TikTok, Instagram en Threads hebben aangekondigd dat ze hun algoritmen veranderen en minder politieke inhoud willen tonen.
Wat als ‘politiek’ wordt beschouwd, is nog steeds onduidelijk. De deepfakes van Weidel, Söder en Co. lijken tamelijk onschuldig vergeleken met de nep-Zelensky-video’s. Deepfakes omvat echter meer dan alleen oppervlakkig entertainment.
Traditionele rechtse propagandatactieken
In een interview met Michael Lewis van Bloomberg zei Steve Bannon, voormalig senior adviseur en mediamanager van Donald Trump: “De echte oppositie zijn de media. En de manier om daarmee om te gaan is door de zone te overspoelen met stront”. Volgens Jonathan Rauch , auteur en journalist, gaat het niet om politieke overtuiging, maar om politieke verwarring.
Deepfakes zijn een uitstekend instrument om verwarring te veroorzaken – een klassiek instrument van rechtse propagandatactieken en indicatief voor de politieke stijl van Trump en andere rechtse populisten.
Maatstaf voor politieke stemming
Met slechts een paar klikken zul je merken dat deepfakes de feed op TikTok domineren, die politici van de Groene Partij, in het bijzonder Annalena Baerbock, Ricarda Lang en Robert Habeck, evenals SPD-kanselier Olaf Scholz, in hun nadeel remixen.
Bovendien laat een recent onderzoek zien in welke mate het algoritme van TikTok de voorkeur geeft aan AfD-gerelateerde inhoud. De stoplichtpartijen doen het over de hele linie zeer slecht. AfD-politici als Maximilian Krah, met zijn gebruikelijke slecht passende pak en karakteristieke kapsel van 10 euro, bieden feitelijk uitstekende sjablonen voor meme- en deepfake-makers.
Zolang er geen creatief tegenwicht is voor de dominantie van TikTok op het gebied van rechtse inhoud, zal het motto blijven: Links kan niet meme. Er is een goede reden om weg te blijven van TikTok. Het bedrijf wordt niet alleen bekritiseerd vanwege zijn gebrek aan gegevensbescherming .
Geen paniek
Helaas lijkt wegblijven geen alternatief. Uit angst voor de dominantie van de AfD bewapenen de oude partijen zich nu ook op TikTok. De ‘team bondskanselier’ durft nog niet in aanraking te komen met deepfakes en memes .
Als de politieke actoren het moddergooien op de sociale media , dat maar al te vaak onder de gordel wordt uitgevoerd, even wreed maken, zou het online discours in Duitsland kunnen evolueren naar een model dat vijandig staat tegenover de Amerikaanse inhoud . Dat zou precies moeten zijn wat Steve Bannon wilde .
Uiteindelijk kunnen politieke deepfakes ook in esthetische categorieën worden ingedeeld. Als creatief satire-instrument kunnen ze soms grappige, doordachte en toch politiek gerichte inhoud overbrengen. Dit wordt bewezen door het Instagram-kanaal ‘ Schlantologie ’, dat volgens de kanaalinfo ‘AI-satire van eigen bodem’ draait.
Net als memes zijn deepfakes een efficiënt communicatiemiddel op sociale media en fungeren als spreekbuis voor politiek activisme.
Wantrouwen in sociale media is noodzakelijk
Nu hebben sociale media altijd meer de commerciële belangen van bedrijven gediend dan het algemeen welzijn van de samenleving. Uw architectuur bepaalt grotendeels wat gebruikers zien. Zolang klikken geld en bereik genereren, heeft polariserende inhoud een voordeel.
Performatief racisme en zeer emotionele inhoud, of het nu gaat om deepfake of memes, zijn nog steeds de moeite waard . Gelukkig vertegenwoordigen sociale media slechts een deel van het totale sociale discours .
Voor sommige gebieden, zoals op beelden gebaseerd seksueel geweld door middel van deepfakes, zal intelligente regelgeving nodig zijn die ook degenen die winst maken in de technologie-industrie verantwoordelijk houdt. Maar als het om artistieke en activistische deepfakes gaat, kan overhaaste regulering, zoals onlangs het geval was in de Federale Raad, meer kwaad dan goed doen.
Zelfs voordat deepfakes wijdverbreid raakten, bestond er fundamentele scepsis ten aanzien van de inhoud op internet. In het beste geval zullen deepfakes gebruikers dwingen hun bewustzijn over vervalsingen in de toekomst aan te scherpen. En eigenlijk is het niet zo moeilijk: een snelle zoektocht op internet helpt vaak om desinformatie aan het licht te brengen.
Wat fundamenteel nodig is, is meer onderwijs in mediageletterdheid vanaf de basisschool, in plaats van paniek en overhaaste verboden die het gebruik van hele technologieën criminaliseren.
Iedereen die serieus gelooft dat Alice Weidel haar toespraken in het Russisch of Arabisch houdt in de Bondsdag, kan ook met andere middelen dan deepfakes worden bedrogen.
