Racistische AI-gegenereerde video’s zijn de nieuwste rommel die miljoenen views op TikTok oplevert

Racistische en antisemitische video’s die door AI zijn gegenereerd, worden miljoenen keren bekeken op TikTok.

Deze video’s, die ogenschijnlijk zijn gemaakt met Veo 3 van Google, een openbaar toegankelijke tekst-naar-video-generator, maken gebruik van racistische elementen. Zo worden zwarte mensen afgebeeld als apen en criminelen en worden er beelden getoond van zwarte mensen met watermeloenen en gefrituurde kip.

Gebruikers plaatsen ook misleidende, door AI gegenereerde video’s van immigranten en demonstranten, waaronder video’s waarin demonstranten worden overreden door auto’s. En in een bijzonder dystopische nachtmerrie spelen door AI gegenereerde video’s de historische trauma’s van gemarginaliseerde groepen na, met beelden van concentratiekampen en aanvallen van de Ku Klux Klan op zwarte Amerikanen.

De communityrichtlijnen van TikTok  verbieden video’s die raciale en etnische groepen dehumaniseren, en ook “bedreigen of de wens uitdrukken om een ​​persoon of groep fysiek letsel toe te brengen”. Het platform worstelt al lange tijd met het indammen van  haatzaaiende uitlatingen ,  gewelddadige content en  misleidende AI-gegenereerde content. De dehumaniserende en soms gewelddadige video’s die Media Matters nu heeft geïdentificeerd, lijken zich ongecontroleerd te verspreiden op het socialemediaplatform.

De nieuwe Veo 3 van Google wordt blijkbaar gebruikt als hulpmiddel voor het creëren van haatdragende content

Veo 3,  het generatieve AI-model  van Google voor het omzetten van tekst naar video , werd op 20 mei uitgebracht . De openbaar beschikbare AI-generator heeft momenteel een  limiet van video’s van 8 seconden , en Google  is naar verluidt van plan de videogenerator te integreren in YouTube Shorts.

De video’s die Media Matters op TikTok heeft geïdentificeerd, duurden allemaal maximaal 8 seconden (of bestonden uit meerdere clips van elk maximaal 8 seconden). Ze hadden ook een “Veo”-label in de hoek;  gebruikten hashtags of bijschriften, of hadden gebruikersnamen die gerelateerd waren aan Veo 3 of AI ; en/of vertoonden duidelijke tekenen van AI-generatie (zoals onzinnige tekst, vervormingen of continuïteitsfouten die de natuurwetten tarten).

TikTok-gebruikers gebruiken door AI gegenereerde video’s om racistische en andere haatdragende stereotypen te verspreiden

Een groot deel van de racistische, door AI gegenereerde content die Media Matters identificeerde, is expliciet anti-zwart. Er worden afbeeldingen van apen gebruikt om stereotypen over zwarte mensen te promoten.

Zo is er bijvoorbeeld  een video met de titel “Average Waffle House in Atlanta” en die een restaurant vol apen laat zien. Een auto ramt de voordeur van het restaurant en vijf apen springen uit de auto met KFC-stijl gefrituurde kip in emmers gevuld met watermeloen. Vervolgens laat de video apen zien die wild door het restaurant rennen, watermeloen gooien en emmers gefrituurde kip dragen. Deze video is meer dan 600.000 keer bekeken . (De video hierboven bevat kijkcijfers van een eerdere datum, dus die komen niet overeen met de definitieve cijfers in dit artikel.)

TikTok-gebruikers begrijpen de racistische boodschap van deze video duidelijk. Een kijker  reageerde met : “Al hun maniertjes… tot in de puntjes…”, terwijl een ander  zei : “En Walmart, en alle andere winkels en restaurants die deze doelgroep bezoekt.”

Een andere  video luidt: “Ik vroeg AI: ‘Gemiddelde Spirit Airlines-ervaring'” en toont apen die over een vliegtuig klimmen terwijl een  rookmelder piept . De video is  835.300 keer bekeken .

Opnieuw is het duidelijk dat kijkers deze racistische propaganda begrijpen en onderschrijven. Een reactie met meer dan 2000 likes luidt: “Bro, zelfs AI heeft last van zwarte vermoeidheid.” Een andere gebruiker  schreef : “AI kwam 5 minuten geleden en heeft nu al last van zwarte vermoeidheid.”

Deze onmenselijke content schildert zwarte Amerikanen ook af als criminelen. In een video zegt een aap met een roze pruik, lange roze acrylnagels en roze wimpers: “Dus mijn reclasseringsambtenaar heeft gebeld. Goed nieuws: ik hoef geen taakstraf meer te doen. Slecht nieuws: er is een nieuw arrestatiebevel tegen mij uitgevaardigd.” Deze video is 4 miljoen keer bekeken .

Verschillende andere video’s toonden door AI gegenereerde apen die misdaden pleegden en bestempelden ze als “usual suspects”. Zo is er een  video met 5,3 miljoen views waarin een politieauto achtervolgd wordt en een auto tegen een paal botst, waarna een aap uit de bestuurdersstoel rent. Er staat: “Ai, je raakt uit de hand, bro.”

Een andere  video , met  1 miljoen weergaven , toont een blanke man die zegt: “Ja. Daar zijn de gebruikelijke verdachten weer”, gevolgd door een shot van chimpansees met gouden kettingen die uit een auto rennen, terwijl op de achtergrond een politieauto loeit.

Niet alle video’s die we vonden waarin zwarte mensen als criminelen worden afgebeeld, maakten gebruik van dierenbeelden om hun haat te verspreiden. Zo vond Media Matters een  video van een zwarte man met een bivakmuts die een tv uit een geplunderde winkel met kapotte ramen droeg en zei: “Ik doe vandaag gewoon rustig mijn boodschappen.”

Deze door AI gegenereerde video’s speelden ook in op andere racistische stereotypen, zoals ‘vaderloosheid’: het  onjuiste  beeld dat zwarte vaders niet voorkomen in het leven van hun kinderen.

Een  video met  373.900 views toont een blanke vrouw die huilt en zegt: “Tequavius, ik moet je iets vertellen. Ik ben zwanger.” Vervolgens rent een aap met een achterstevoren hoed weg in een auto. De tekst luidt: “Wat probeert AI te zeggen?”

In een andere  video , die  351.000 keer bekeken is , klaagt een zwarte vrouw bij een barista dat er niet genoeg melk in haar koffie zit. De blanke barista zegt: “Misschien komt je baby-papa wel terug met melk, ook al is het al jaren geleden. Ik kan je in plaats daarvan watermeloen en gefrituurde kip geven.”

De consumptie van gefrituurde kip en watermeloen — een  al lang bestaand anti-zwart racistisch stereotype — was een terugkerend thema in deze content.

In een  video met  147.600 views zei een zwarte man: “Ik krijg geen adem. Ik krijg geen adem. Watermeloen, alsjeblieft. Ik heb watermeloen nodig.”

In een andere  video , die  350.900 keer bekeken is , is een aap te zien met de naam “Lequarius” die een gouden ketting draagt ​​en een emmer vol gefrituurde kip vasthoudt.

In deze video’s komt herhaaldelijk politiegeweld tegen zwarte mensen voor.

Een bijzonder virale  video – met  14,2 miljoen views – toont twee blanke politieagenten die donuts eten. Dan roept een van hen: “Kijk! Een zwarte!” en schiet hij meerdere keren met zijn pistool.

In een andere  video , die 2,1 miljoen keer bekeken is , houdt een blanke politieagent een hengel vast met een watermeloen als aas en zegt: “Mijn kijkcijfers zijn laag deze week. Een man moet doen wat een man moet doen”, terwijl een zwarte vrouw op handen en knieën naar hem toe kruipt.

In een andere  video , die  383.300 keer bekeken is , is een blanke politieagent te zien buiten een KFC die beweert dat hij “die klootzakken aan het spawnen is”. ( Spawncamping is een term uit de gamewereld die verwijst naar het wachten in de buurt van specifieke spawnlocaties om spelers direct na het spawnen te doden.) Wanneer een zwarte man uit de KFC komt, roept de blanke politieagent “Bingo” en richt zijn pistool op hem.

Hoewel de meeste AI-video’s van Media Matters gericht waren op zwarte mensen, werden ook andere raciale en etnische groepen aangevallen.

In een  video die meer dan 206.900 keer bekeken is , staat onder andere: “Gemiddelde Panda Express is zoals” en toont een Aziatische man die klanten vertelt “kom vandaag nog onze sesam-sinaasappelschorsschors en miauw-miauw proberen”, terwijl er afbeeldingen van katten en honden op het scherm verschijnen.

In verschillende video’s worden mensen die er in Zuid-Azië uitzien als vies afgebeeld.

In een  video die  1,2 miljoen keer bekeken is , wordt een Zuid-Aziatische man achtervolgd door een douchekop en zeep terwijl hij schreeuwt: “Nee! Nee!”

In een andere  video bereiden Zuid-Aziatische mannen eten met hun voeten en serveren ze kommen vol modder met ratten.

In een andere  video is een groep orthodox-joodse mannen te zien die van een heuvel afrollen op zoek naar een stuk goud.

Door AI gegenereerde video’s richten zich op immigranten en tonen geweld tegen demonstranten

Ook in de VS zijn door AI gegenereerde video’s gericht op immigranten en demonstranten. Deze video’s zijn in het Spaans en Engels gemaakt.

Zo is er een  video met  45.500 weergaven waarin een man door een rel loopt, zwaaiend met een Mexicaanse vlag en roepend: “Ik laat de vlag wapperen van de plek waar ik niet naar terug wil, en ik verwoest de plek waar ik niet weg wil.”

Een andere  video , met  25.400 weergaven , toont een reeks door AI gegenereerde Spaanstalige sprekers die beweren afkomstig te zijn uit verschillende Latijns-Amerikaanse landen. Verschillende van hen gaven aan de Amerikaanse hulpbronnen te willen gebruiken. De eerste demonstrant zegt in het Spaans: “Hallo, mijn naam is José Rojas uit Venezuela en ik wil niet werken. Ik wil alleen gesteund worden door de Amerikaanse regering.”

Media Matters signaleerde ook een zorgwekkende trend in door AI gegenereerde video’s die lijken te fantaseren over het uitvoeren van geweld tegen immigranten of tegen demonstranten die immigranten verdedigen.

In een  video zegt een door AI gegenereerde Big Foot in een vest van Border Patrol: “Ik ben hier om jullie te laten zien hoe je een border jumper vangt”, waarna hij een man naar de grond worstelt. Big Foot zet de man vervolgens achter in zijn truck en zegt: “Ik neem deze mee om mijn gras te maaien voordat ik hem deporteer.”

In andere video’s werd reclame gemaakt voor het aanrijden van demonstranten met auto’s.

In een  video met 90.000 weergaven rijden vrachtwagenchauffeurs door een menigte mensen. Terwijl de auto wegrijdt, klinkt er een klap, wat suggereert dat de auto over iemand heen is gereden. De bestuurder zegt: “Ik ben dol op deze nieuwe verkeersdrempels. Boem, boem.”

In een andere  video , die  61.400 keer bekeken is , rijden Big Foot en een soortgelijk wezen in een auto die omringd is door demonstranten. Big Foot zegt: “Nou, gouverneur Sanchez zei dat we ze moesten omverrijden”, waarna de auto een zee van mensen inrijdt.

Door AI gegenereerde video’s tonen concentratiekampen en de Ku Klux Klan

Hoewel door AI gegenereerde historische afbeeldingen niet nieuw zijn op  TikTok, zien we ze nu ook gebruikt worden om historisch trauma na te bootsen.

In een  video die we vonden, vertelt een man over zijn dag in een naziconcentratiekamp alsof hij aan het vloggen is. Hij staat voor de schoorsteen van een crematorium en zegt: “Het is een beetje rokerig, maar het ruikt hier echt lekker.” Hij wijst naar een stapel schoenen en zegt: “Ik vraag me af of er Air Jordans tussen zitten,” en sluit de video af met de woorden dat hij “nu even gaat douchen.” De video is al  een miljoen keer bekeken .

In een andere  video is Big Foot te paard te zien, gekleed in een Ku Klux Klan-gewaad en capuchon, terwijl hij een zwarte man achtervolgt.

De AI-propagandierevolutie

Gesprekken over AI en desinformatie richten zich vaak op de geloofwaardigheid van door AI gegenereerde content – ​​dat wil zeggen, hoe realistisch die eruitziet. Maar haatdragende berichten hoeven er niet echt uit te zien om racistische opvattingen verder in de hoofden van kijkers te verankeren. In de VS bestaat er een lange geschiedenis van het gebruik van  tekenfilms om haatdragende, anti-zwarte propaganda over te brengen.

Terwijl de race om generatieve AI-tools te creëren voortduurt, moet er in het gesprek ook aandacht worden besteed aan de schade die dit kan veroorzaken, met zowel realistische als onrealistische beelden.