Mensen gebruiken Instagram AI om influencers met het syndroom van Down te creëren die naaktfoto’s verkopen

Instagram’s terughoudendheid om door AI gegenereerde content te modereren, bereikt een nieuw dieptepunt.

Een netwerk van Instagram-accounts gebruikt AI om content van menselijke makers te stelen en hun gezichten te deepfaken, zodat ze eruitzien alsof ze het syndroom van Down hebben. 404 Media kon vaststellen dat de accounts aan elkaar gekoppeld zijn, omdat ze Instagram-bio’s en video’s hergebruiken en in sommige gevallen linken naar dezelfde OnlyFans-concurrentpagina’s waar ze deze video’s geldelijker maken. 

404 Media heeft meerdere verhalen geschreven over de snelgroeiende praktijk van mensen die content stelen van echte menselijke makers en AI gebruiken om hun gezichten te vervangen door door AI gegenereerde gezichten, die door AI aangepaste content op Instagram plaatsen en kijkers naar platforms voor volwassen content leiden waar ze kunnen worden gemonetariseerd. Wat begon als slechts een paar accounts, groeide snel uit tot een hele industrie met gespecialiseerde tools, advertentiestrategieën en influencers die cursussen verkopen over hoe je deze nep-influencers kunt creëren om snel rijk te worden door wat zij ” AI-pimping ” noemen. 

Nieuwere accounts in de afgelopen maanden zijn steeds specifiekere niches en fetisjen gaan bedienen, waaronder accounts van door AI gegenereerde vrouwen met geamputeerde ledematen . De door AI gegenereerde accounts met het syndroom van Down zijn het nieuwste dieptepunt voor Instagram, dat de ongebreidelde diefstal van inhoud die deze praktijk mogelijk maakt, mogelijk maakt en nu een niet-consensuele fetisjisering en monetisering van (nep)mensen met een beperking aanwakkert. 

Het grootste van deze accounts dat ik heb gezien, heet Maria Dopari en heeft meer dan 148.000 volgers op Instagram. Dat account volgt op verschillende andere accounts met vergelijkbare naamconventies en identieke video’s, waaronder een die simpelweg Maria heet en meer dan 39.000 volgers heeft. De gezichtswisselingen zijn behoorlijk overtuigend en moeilijk op te merken, vooral als je snel door Reels scrolt, maar als je goed kijkt, zie je dat het gezicht soms die te gladde kwaliteit heeft die gebruikelijk is bij AI-beeldgeneratie, evenals kleine visuele fouten, vooral rond de mond, tong en tanden. 

Er zijn genoeg echte influencers met het syndroom van Down op Instagram die motiverende of modellerende content delen. Deze door AI gegenereerde accounts proberen die content niet te imiteren, maar zijn strikt gericht op het seksualiseren van de door AI gegenereerde persona’s, zodat ze content voor volwassenen kunnen promoten en er vervolgens geld mee kunnen verdienen. 

“Ze bekritiseren allemaal mijn downsyndroom totdat… ik besluit strakke kleding te dragen,” zegt de tekst in een van Maria’s video’s terwijl ze een t-shirt strak om haar middel wikkelt om haar lichaam te laten zien. “Onlyfan??,” zegt de tekst in een andere Maria-video terwijl ze danst. “Nee…Onlydown?? Jazeker 😂😂” 

Op een gegeven moment plaatste het Maria-account ook exact dezelfde video’s als het Maria Dopari-account, maar dan met een ander gezicht. Het lijkt erop dat het Maria-account voor drie video’s die tussen 6 en 8 maart werden geplaatst, per ongeluk een gezicht gebruikte van een van zijn andere nep-persona’s, genaamd Lana, die onder verschillende gebruikersnamen post onder een variatie van lana.down, waarvan de grootste 43.800 volgers heeft. Het Maria-account bleef vervolgens posten met het gezicht dat het regelmatig gebruikte. In sommige gevallen kon 404 Media de originele video’s identificeren die door deze accounts werden gestolen.

Een ander account, genaamd Zeliavideos, dat 112.000 volgers heeft, zegt in zijn bio: “Ik ben niet speciaal omdat ik het syndroom van Down heb, maar omdat ik het mijn leven niet laat bepalen.” Het linkt naar een Fanvue-pagina die niet onthult dat het door AI is gegenereerd, maar veel van de stilstaande beelden op het Instagram-account zijn dat duidelijk wel. Bovendien werden verschillende Reels, die zijn bewerkt om de vrouw in de video’s eruit te laten zien alsof ze het syndroom van Down heeft, weken eerder gepost door een ander account met een heel ander gezicht. 

Bijna geen van de Instagram-accounts die ik heb gezien, identificeert zichzelf als AI-gegenereerd, en afgaande op de reacties op de video’s, lijkt het erop dat veel mensen geloven dat ze echt zijn. In tegenstelling tot Instagram heeft OnlyFans echter een strikt beleid tegen AI-gegenereerde content, tenzij de geverifieerde maker erop staat en expliciet vermeldt dat het met AI is gemaakt. Deze accounts kunnen die content dus niet op dat platform plaatsen. Ze kunnen en doen dat wel op Fanvue, wat mensen toestaat om AI-gegenereerde content te gelde te maken, zolang het maar als zodanig is gelabeld. Zowel Maria Dopari als Maria linken naar hetzelfde Fanvue-account waarop staat dat Maria een “AI-gezicht” heeft.

“Gewoon een meisje met een beetje extra, haha ​​✨”, zegt de in het Frans geschreven Fanvue-biografie.

Instagram-bio’s voor andere accounts die de persona Maria promoten, zijn ook in het Frans geschreven en volgen een vergelijkbare formule: ze zeggen dat ze Frans is, 23 jaar oud, dat ze het syndroom van Down heeft en ‘neuro-atypisch’ is. 

Een ander account dat hetzelfde type content op Instagram produceert, onthult wel dat het door AI wordt gegenereerd en dat de persoon erachter niet echt het downsyndroom heeft. Het linkt ook naar een Fanvue-pagina, met de volgende “Disclaimer:”

“Door te kopen, begrijp je dat ik een door AI aangepaste avatar ben. Ik heb niet echt het don’t-syndroom.”

Op 8 februari werd ook een Reddit-community met de naam r/pussydownsyndrom opgericht. Tot nu toe bevat deze community slechts twee berichten, beide van de moderator, die content van de Maria-persoonlijkheid promoten. 

Reddit en de moderator van die community reageerden niet op een verzoek om commentaar. Instagram, Fanvue en geen van de accounts die ik benaderde reageerden op een verzoek om commentaar.