AI-politieke advertenties zijn er en niemand weet hoe ze ermee om moeten gaan

AI “Fuck, ik wist niet dat je dat kon,” vertelde een Republikeinse reclamemaker aan de media.

Een Republikeinse reclamemaker had onlangs een ontmoeting met een topkandidaat van de Senaat om hen te pitchen over het inhuren van hun bedrijf voor de komende verkiezingen. Maar ze denken dat ze de baan niet zullen krijgen, omdat een concurrent kunstmatige intelligentie gebruikte in hun presentatie.

“Ik hoorde dat de man die echt uit zijn dak ging, binnenkwam en een advertentie presenteerde die hij deed met behulp van AI om de stem van de kandidaat te genereren. En de kandidaat vond het zo cool, ‘zei de advertentiemaker nadat hij had gevraagd anoniem te blijven om openhartig interne zaken te bespreken. “Ik had zoiets van ‘Fuck, ik wist niet dat je dat kon.'”

Door AI gegenereerde politieke advertenties zijn er officieel. En niemand – inclusief de campagnes zelf, laat staan ​​de kiezers – is bereid om met deze nieuwe realiteit om te gaan. Kunstmatige intelligentie wordt met de dag geavanceerder en kandidaten en campagnes beginnen nog maar net te worstelen met praktische en ethische zorgen over door AI geproduceerde inhoud die de politiek binnensluipt. De tijd dat deepfake-video’s die niet gemakkelijk te onderscheiden zijn van echte gebeurtenissen een grote rol spelen in campagnes, lijkt niet alleen onvermijdelijk, maar dichterbij dan ooit.

Deze week markeerde een keerpunt.

Op dinsdag debuteerde het Republican National Committee (RNC) met een advertentie die volledig is samengesteld uit video gemaakt door kunstmatige intelligentie – de eerste campagnevideo van een grote partij die dit in de geschiedenis doet.

De RNC-advertentie toont een dystopische hypothetische toekomst waarin president Biden wordt herkozen, banken instorten, China Taiwan binnenvalt en San Francisco wordt afgezet door het leger nadat het is overspoeld door immigranten, bendes en drugs.

Het valt meer op omdat het de eerste in zijn soort is dan vanwege de kwaliteit van de advertentie zelf.

De afbeeldingen zien er op het eerste gezicht uit alsof ze echt kunnen zijn, maar bij een tweede blik zijn ze duidelijk door AI gegenereerd. President Biden en vice-president Kamala Harris hebben duidelijk die brede, wolfachtige blik die veel voorkomt in door AI gegenereerde kunst, en de hypothetische aanval van China op Taiwan lijkt bijna op een poppenspel uit “Team America: World Police”.

De meeste beelden van de advertentie hadden net zo goed kunnen worden vervangen door b-roll-video van werkelijke gebeurtenissen. En het strekt tot hun eer dat de RNC de advertentie expliciet heeft uitgebracht als een door AI gegenereerde video en deze als zodanig op de video zelf heeft gelabeld.

Een RNC-bron die bekend is met de productie van de advertentie, vertelde VICE News dat hoewel de videoclips door AI waren gegenereerd, het script van de advertentie door echte mensen was geschreven. Op de vraag of de RNC zou beloven geen deepfakes van politici te gebruiken, zei de bron: “We zouden nooit inhoud produceren die bedoeld was om kijkers te misleiden.”

Maar de release van de video markeert, ook al is het een gimmick, het begin van een nieuw tijdperk waarin het voor kiezers nog moeilijker kan worden om waarheid van leugens te onderscheiden.

De grootste zorg is niet dat politici of officiële campagnes advertenties uitzenden met nep-inhoud, maar anonieme, online rando’s zonder verantwoordelijkheid of morele scrupules die virale deepfake-video’s naar buiten brengen.

“De zorg is wanneer we het punt bereiken waarop het op basisniveau kan worden gedaan. Er zijn tools waarmee ze dit spul massaal op een geautomatiseerde manier kunnen genereren”, zegt Dave Doermann, de directeur van de universiteit van het Buffalo Artificial Intelligence Institute. “We zullen het niet snel genoeg in realtime kunnen detecteren om het enig verschil te laten maken, [en] zelfs als we dat zouden kunnen, zullen de sociale mediasites niet degenen zijn die de moeite nemen om het naar beneden.”

Eind februari plaatste extreemrechtse commentator Jack Posobiec, een nauwe bondgenoot van voormalig president Donald Trump die een sleutelrol speelde bij het verspreiden van de valse Pizzagate-complottheorie die een voorloper was van QAnon, een deepfake-video waarin president Biden een militaire dienstplicht afkondigde . om Rusland in Oekraïne te bevechten, dat hij aankondigde als “een voorproefje van wat komen gaat”. Het evenement was duidelijk een hypothetische (en onrealistische) toekomst, maar de video was goed genoeg om alarmbellen te doen rinkelen.

Zijn reactie toen factcheckers, reguliere mediakanalen en enkele collega-conservatieven vroegen waarom hij de video had uitgebracht en waarom hij het niet duidelijk als een door AI gegenereerde deepfake bestempelde: ” Screw ze allemaal.”

https://www.facebook.com/watch/?v=603663014483074

En hoewel openbaar beschikbare AI-technologie nog niet helemaal in staat is om volledig geloofwaardige video-deepfakes te produceren, is het al geavanceerd genoeg om realistische audioclips te produceren.

In de laatste dagen van de beladen burgemeestersverkiezing van Chicago in 2023 plaatste een anoniem Twitter-account, misleidend gelabeld als een nieuwswebsite, ‘Chicago Lakefront News’, AI-deepfake- audio op Twitter van een AI-deepfake van kandidaat Paul Vallas die zei: ‘Bback in my day , zouden agenten 17 of 18 mensen vermoorden en niemand zou met een oog knipperen. De clip werd duizenden keren afgespeeld voordat hij werd verwijderd – en mensen snuffelden zo snel dat het nep was, alleen omdat zijn opmerking een beetje te wild was om te geloven. Een beter deepfake-script had langer onopgemerkt voorbij kunnen gaan.

Door AI gegenereerde videoadvertenties zijn nieuw in de politiek, maar de afgelopen maanden is ook deepfake-technologie gebruikt bij pogingen tot propaganda in het buitenland. Vorig jaar werd een door AI gegenereerde video vrijgegeven waarin de president van Oekraïne de soldaten opriep de wapens neer te leggen en zich over te geven aan Rusland. China heeft op dezelfde manier deepfake-technologie gebruikt om video’s te maken met westerse nieuwsankers die pro-Chinese propaganda pushen . Russische online propagandisten richten zich al jaren op de Amerikaanse en Europese verkiezingen, en hebben waarschijnlijk de presidentsverkiezingen van 2016 beïnvloed. Deepfake-video’s zullen waarschijnlijk ook een propagandamiddel worden voor buitenlandse actoren.

Selectief gemonteerde videoclips zijn al gemeengoed in politieke advertenties en worden vaak genoemd als ze flagrant genoeg zijn. Campagnes en commissies die betrapt zijn op het wijzigen van afbeeldingen in advertenties, zijn op grote schaal bespot. Toen photoshop tien jaar geleden een ding werd, probeerden gewetenloze campagnes het te gebruiken voor misleidende beelden, totdat sommige voorbeelden spectaculair mislukten. Dat gebeurde toen een GOP-advertentie het hoofd van de democratische senator Jon Tester op een ander lichaam photoshopte, waarbij hij vergat dat hij bijvoorbeeld drie vingers in één hand mist door een kinderongeval op een boerderij. Het gebeurt nog steeds, maar veel zeldzamer.

Er is nog een nadeel: als mensen eenmaal gewend zijn aan nep-AI-gegenereerde video’s, worden ze nog geharder, cynischer en moeilijker te bereiken en te overtuigen – voor politici, reclamemakers, journalisten, iedereen. Partizanen verwerpen nu al feiten die hun wereldbeeld in twijfel trekken, en de kreten van “nepnieuws” zullen alleen maar luider worden naarmate deze technologie vaker voorkomt.

“De grootste hindernis voor effectieve politieke advertenties is geloofwaardigheid. Nu AI-technologie steeds gebruikelijker wordt in ons leven, zal het scepticisme van de kiezers alleen maar blijven groeien. Dit verhoogt de last voor politieke mediabedrijven om aanvullende manieren te vinden om de advertenties geloofwaardig te maken”, aldus Democratic reclamemaker Jon Vogel.

En het zal mensen ook minder vertrouwen geven in blunders – de volgende keer dat er zoiets als Trumps “pak ze bij de poes”-video , Hillary Clintons “basket of deplorables” -opmerking of Mitt Romney’s “47 procent” -opmerking uit een privé-evenement druppelt, een deel van de bevolking zal het simpelweg afdoen als een deepfake.

Campagnestrategen van beide partijen vertelden VICE News dat ze betwijfelen of grote kandidaten en de partijcommissies het risico zullen nemen om valse, door AI gegenereerde video’s op te nemen in grote tv-campagneadvertenties. De kans om te worden opgeroepen wegens liegen en het vertrouwen van kiezers te verliezen, is het gewoon niet waard. Ze denken dat AI-technologie het meest zal worden gebruikt voor meer alledaagse taken, zoals het schrijven van persberichten en eenvoudige scripts voor campagneadvertenties, die vaak cookie-cutter genoeg zijn zodat ChatGPT ze misschien sneller kan uitspugen dan onervaren lagere stafmedewerkers.

Strategen zullen een dunne lijn moeten bewandelen tussen tijdbesparend werk en het per ongeluk toevoegen van misleidende nepbeelden bij het maken van campagneadvertenties.

De GOP-reclamemaker zei dat ze slechts enkele dagen geleden aan collega’s hadden gemeld dat een van de afbeeldingen in een advertentie die ze aan het produceren waren onscherp was.

 “De redacteur met wie ik werk, zei me ‘maak je geen zorgen, ik genereer gewoon iets met AI'”, zeiden ze.

Maar moeilijker te traceren online advertenties en direct-tekstcampagnes zijn al gevoeliger voor valse informatie en kunnen geschikte doelwitten zijn voor deepfakes.

En het grootste risico van de campagnes zelf is in de laatste dagen van een race. Dat is wanneer rattenneuken en campagnesabotage het vaakst voorkomen, omdat campagnes weten dat kiezers pas na de verkiezingen over hun vuile trucs horen.

“Je zou de afgelopen vijf dagen een advertentie kunnen zien of iets dat buitengewoon flagrant is”, waarschuwde de GOP-advertentiemaker.