Deepfakes in Spanje : Valse naaktfoto’s van meisjes veroorzaken veel ophef

In Spanje melden talloze meisjes dat door AI gegenereerde naaktfoto’s van hen op school circuleren. De zaak wordt nu een nationaal schandaal – omdat de moeders van de getroffenen zich hebben georganiseerd om actie te ondernemen tegen de verantwoordelijke klasgenoten.

Deepfakes in Spanje. Naaktfoto’s verzonden van telefoon naar telefoon. Ruim twintig meisjes zijn getroffen, de jongste slechts elf jaar oud. In Spanje veroorzaakt deze zaak uit het kleine stadje Almendralejo met zijn 30.000 inwoners momenteel een nationaal schandaal. Maandag maakte de moeder van een van de getroffen meisjes – de gynaecoloog Miriam Al Adib – de zaak openbaar . Haar Instagram-kanaal heeft ruim 130.000 volgers en de video is honderdduizenden keren bekeken. 

Binnen een paar dagen was de zaak een nationaal schandaal geworden. De Spaanse gegevensbeschermingsautoriteit heeft ingegrepen, evenals de conservatieve voorzitter van de regionale regering , en zelfs de Spaanse minister van Justitie heeft commentaar gegeven .

Mi profundo rechazo ante este suceso repugnante y mi apoyo a las menores y sus familias. La violencia digital contra las mujeres es una lacra en auge. Desde la Junta de Extremadura vamos a poner en marcha una formación específica y continua para combatirla. https://t.co/8yQBj2OBbi

— María Guardiola (@MGuardiolaM) September 18, 2023

Sindsdien hebben zich elke dag steeds meer getroffen mensen gemeld; volgens El Pais zijn er momenteel 22 meisjes tussen de elf en zeventien jaar van wie de ouders een klacht hebben ingediend. De lokale politie heeft inmiddels tien verdachten geïdentificeerd, zeiden ze gisteren . Het zijn klasgenoten en kennissen van de meisjes, zelf allemaal minderjarig. Nu bespreekt het land met welke straffen zij te maken krijgen en of het rechtssysteem überhaupt is toegerust om een ​​dergelijke zaak aan te pakken.

Bekend geweld, onbekende aandacht

Want de foto’s die de jongeren naar verluidt met elkaar deelden in WhatsApp-groepen zijn nep. De daders hebben het gemaakt met behulp van een website die openlijk toegankelijk is op internet – het logo was op sommige afbeeldingen te zien, schrijft de Spaanse krant El País. Het enige wat ze hoefden te doen was foto’s uploaden van de meisjes waarin ze gekleed waren. Enkele seconden later produceert de site een gemanipuleerd beeld waardoor het lijkt alsof de meisjes naakt zijn.

Dergelijke afbeeldingen worden deepnudes genoemd, een woord dat is ontstaan ​​uit deepfake en het Engelse woord voor naaktfoto. Er zijn talloze sites en apps op internet waarmee u deze gratis kunt maken. In speciale forums bespreken gebruikers hoe ze de beste resultaten kunnen bereiken. De foto’s zien er nu vaak bedrieglijk echt uit. “Als ik het lichaam van mijn dochter niet kende,” zei Miriam Al Adib ook , “leek deze foto echt.”

Haar partner, de vader van het 14-jarige meisje, meldde aan de onlinekrant El Español dat de beelden sinds juni in de stad circuleerden – maar de betrokken meisjes kwamen uit angst niet naar buiten. Miriam Al Adib en andere moeders hebben daar nu verandering in gebracht. Dit maakt de zaak ook buiten Spanje opmerkelijk omdat er vaak sprake is van een gebrek aan weerstand, solidariteit en publiciteit.

Deepfakes zijn voornamelijk pornografisch

Het fenomeen nep-naaktfoto’s is niet nieuw. De technologie erachter heeft de afgelopen jaren echter snelle sprongen gemaakt. Terwijl je een paar jaar geleden nog veel rekenkracht en wat technische vaardigheden nodig had om geloofwaardige resultaten te behalen, bieden tegenwoordig talloze dubieuze aanbieders hun diensten online aan – een klik en een paar euro zijn voldoende.

Sindsdien hebben geseksualiseerde deepfakes niet alleen actrices en politici getroffen, maar ook gewone particulieren. Een analyse uit 2019 kwam tot de conclusie dat ruim 95 procent van de bestaande deepfakes pornografie zonder wederzijds goedvinden was . Volgens een onderzoek uit Groot-Brittannië, Australië en Nieuw-Zeeland waren de beelden in ongeveer één op de drie gevallen digitaal gemanipuleerd.

De aanbieders verbergen meestal wie er achter de diensten zit. Dit was ook het geval met de site die de jonge daders blijkbaar goed van pas kwam in Almendralejo. Het domein is geregistreerd in de VS en de exploitanten houden de identiteit verborgen. Er staat een beknopte zin op hun website: “Wij nemen geen enkele verantwoordelijkheid voor afbeeldingen die met behulp van de website zijn gemaakt.” Alleen degenen die ze maken, zijn verantwoordelijk voor de afbeeldingen.

“Wees niet bang, schaam je niet”

Experts noemen dergelijke beelden beeldgeweld. Naast ‘leuk’ zeggen veel daders dat ze de beelden wilden gebruiken om vrouwen en meisjes te schande te maken. Vooral meisjes en vrouwen of homoseksuele mensen worden getroffen . Tot nu toe zijn ze grotendeels alleen geweest met de schaamte en vernedering. In Duitsland zijn slechts geïsoleerde gevallen bekend geworden – bijvoorbeeld van influencers. 

Er zijn geen studies in dit land; de Duitse Vereniging van Vrouwelijke Advocaten heeft dit onlangs in een position paper bekritiseerd . De getroffenen melden dat wetshandhavingsinstanties vaak niet weten hoe ze met zaken moeten omgaan, dat daders zelden worden geïdentificeerd en zelden de gevolgen hoeven te vrezen.

Dit is een van de redenen waarom de zaak uit Spanje ervoor zorgt dat mensen rechtop gaan zitten en het opmerken. De moeders van de meisjes wisten de zaken binnen enkele dagen op landelijk niveau te brengen. Mediaberichten in een continue lus. De nationale toezichthoudende autoriteit voor gegevensbescherming is hierbij betrokken geraakt . 

Er wordt niet alleen aangegeven hoe betrokkenen de beelden kunnen melden, zodat ze van internet kunnen worden verwijderd. Het maakt ook duidelijk dat er hoge straffen staan ​​– zelfs als het om minderjarige daders gaat. Als ze ouder zijn dan 14 jaar, worden hun ouders vervolgd, legt het hoofd van de autoriteit, Mar España, uit.

De tien minuten durende video van Miriam Al Adib creëerde vermoedelijk een momentum dat het onmogelijk maakte de zaken binnen de perken te houden. Bovenal ondermijnde ze de logica van het schuldgevoel: het waren niet de getroffen meisjes die zich moesten schamen, zei ze, maar de daders. “Meisjes, wees niet bang om dergelijke daden aan de kaak te stellen, vertel het aan je moeders”, schreef ze maandag in de tekst bij haar video. En in een latere post: “Wees niet bang, schaam je niet, voel je niet schuldig. Wij steunen jullie als hele samenleving, onvoorwaardelijk.”

Grote afschrikkende werking

Op televisiebeelden van de locatie zie je de moeders interviews geven en ideeën met elkaar uitwisselen. De politie zegt dat het onderzoek tegen de jongeren nog open is.

Terwijl volwassen daders in Spanje tot vijf jaar gevangenisstraf riskeren voor het verspreiden van zogenaamde kinderpornografie, zal het jeugdstrafrecht van toepassing zijn op daders tussen de twaalf en veertien jaar. Maar het afschrikwekkende effect zal waarschijnlijk enorm zijn, omdat de jongeren mogelijk van school worden gestuurd, onderwijsmaatregelen moeten nemen en hun ouders hoge boetes zullen moeten betalen. Bovendien praat het hele land er nu over – en toont het zich solidair met de meisjes. Dat maakt de zaak uniek.