Indignatie redactie 
Een hele reeks deepfake-videoadvertenties van Sunak op Facebook baart zorgen over het AI-risico voor verkiezingen
Uit onderzoek blijkt dat er de afgelopen maand meer dan 100 betaalde advertenties die de identiteit van PM nabootsen, werden gepromoot op het sociale mediaplatform.
Alleen al de afgelopen maand zijn ruim honderd deepfake-videoadvertenties waarin Rishi Sunak wordt nagebootst betaald om op Facebook te worden gepromoot, blijkt uit onderzoek dat vóór de algemene verkiezingen alarm heeft geslagen over het risico dat AI met zich meebrengt.
De advertenties hebben misschien wel 400.000 mensen bereikt – ondanks dat ze verschillende beleidsregels van Facebook leken te overtreden – en markeren de eerste keer dat er op systematische wijze en masse met het imago van de premier is geknoeid.
Er werd ruim £12.929 uitgegeven aan 143 advertenties, afkomstig uit 23 landen, waaronder de VS, Turkije, Maleisië en de Filipijnen.
Ze omvatten er een met vervalste beelden van een BBC-nieuwslezer, Sarah Campbell, die het laatste nieuws lijkt voor te lezen waarin ten onrechte wordt beweerd dat er een schandaal is uitgebroken rond Sunak die in het geheim “kolossale bedragen verdient met een project dat aanvankelijk bedoeld was voor gewone burgers”.
Het bevat de onware bewering dat Elon Musk een applicatie heeft gelanceerd die aandelenmarkttransacties kan ‘verzamelen’ en volgt met een vervalst fragment waarin Sunak zegt dat de regering heeft besloten de applicatie te testen in plaats van het geld van gewone mensen op het spel te zetten.
De clips leiden vervolgens naar een vervalste BBC News-pagina waarin reclame wordt gemaakt voor een zwendelinvestering.
Het onderzoek werd uitgevoerd door Fenimore Harper, een communicatiebedrijf opgericht door Marcus Beard, een voormalige functionaris van Downing Street die leiding gaf aan de reactie van No 10 op het tegengaan van complottheorieën tijdens de Covid-crisis.
Hij waarschuwde dat de advertenties, die een verschuiving in de kwaliteit van de vervalsingen markeren, aantoonden dat de verkiezingen dit jaar het risico liepen te worden gemanipuleerd door een grote hoeveelheid door AI gegenereerde onwaarheden van hoge kwaliteit.
“Met de komst van goedkope, eenvoudig te gebruiken stem- en gezichtsklonen is er heel weinig kennis en expertise nodig om de gelijkenis van een persoon voor kwaadaardige doeleinden te gebruiken.”
“Helaas wordt dit probleem verergerd door een laks moderatiebeleid op het gebied van betaalde advertenties. Deze advertenties zijn in strijd met verschillende advertentiebeleidsregels van Facebook. Het lijkt er echter op dat maar heel weinig van de advertenties die we tegenkwamen, zijn verwijderd.”
Meta, eigenaar van Facebook, is benaderd voor commentaar.
Een woordvoerder van de Britse regering zei: “We werken uitgebreid samen met de regeringen om ervoor te zorgen dat we klaar zijn om snel te reageren op eventuele bedreigingen voor onze democratische processen, via onze taakgroep voor de verdediging van de democratie en toegewijde regeringsteams.
“Onze Online Safety Act gaat nog verder door nieuwe eisen te stellen aan sociale platforms om illegale desinformatie en desinformatie snel te verwijderen – ook als deze door AI wordt gegenereerd – zodra zij zich hiervan bewust worden.”
Een woordvoerder van de BBC zei: “In een wereld van toenemende desinformatie dringen we er bij iedereen op aan ervoor te zorgen dat ze hun nieuws van een vertrouwde bron krijgen. We lanceerden BBC Verify in 2023 om de groeiende dreiging van desinformatie aan te pakken – door te investeren in een zeer gespecialiseerd team met een scala aan forensische en open source intelligence (OSINT) om onderzoek te doen, feiten te controleren, video te verifiëren, desinformatie tegen te gaan, gegevens te analyseren en complexe verhalen uit te leggen.
“We bouwen vertrouwen op bij het publiek door te laten zien hoe BBC-journalisten de informatie kennen die ze rapporteren, en door uitleg te geven over hoe ze nep- en deepfake-inhoud kunnen herkennen. Als we ons bewust worden van valse BBC-inhoud, ondernemen we snel actie.”
Regelgevers zijn bezorgd dat de tijd dringt om grootschalige veranderingen door te voeren om ervoor te zorgen dat het Britse kiesstelsel gelijke tred houdt met de vooruitgang op het gebied van kunstmatige intelligentie vóór de volgende algemene verkiezingen, die naar verwachting in november zullen plaatsvinden .
De regering heeft gesprekken gevoerd met toezichthouders, waaronder de Kiescommissie, die zegt dat nieuwe eisen in de wetgeving vanaf 2022 aan digitaal campagnemateriaal een ‘afdruk’ moeten bevatten, omdat dit er tot op zekere hoogte voor zal zorgen dat kiezers kunnen zien wie voor een advertentie heeft betaald of wie probeert om ze te beïnvloeden.
Een Meta-woordvoerder zei: ‘We verwijderen inhoud die ons beleid schendt, ongeacht of deze door AI of door een persoon is gemaakt. De overgrote meerderheid van deze advertenties was uitgeschakeld voordat dit rapport werd gepubliceerd en het rapport zelf merkt op dat minder dan 0,5% van de Britse gebruikers een individuele advertentie heeft gezien die live ging.
“Sinds 2018 bieden we toonaangevende transparantie voor advertenties over sociale kwesties, verkiezingen of politiek, en we blijven deze inspanningen verbeteren.”
