Uit ons onderzoek naar darkwebforums blijkt dat door AI gegenereerde afbeeldingen van kindermisbruik een groeiende dreiging vormen

Het Verenigd Koninkrijk wil het eerste land ter wereld zijn dat nieuwe strafbare feiten creëert met betrekking tot door AI gegenereerd seksueel misbruik. Nieuwe wetten zullen het bezit, de ontwikkeling of de distributie van AI-tools die ontworpen zijn om materiaal te genereren dat seksueel misbruik van kinderen (CSAM) bevat, illegaal maken , wat strafbaar is met maximaal vijf jaar gevangenisstraf. De wetten zullen het ook illegaal maken voor iedereen om zogenaamde “pedofielenhandleidingen” te bezitten die mensen leren hoe ze AI kunnen gebruiken om kinderen seksueel te misbruiken.

De afgelopen decennia is de dreiging van online misbruik voor kinderen in een zorgwekkend tempo toegenomen. Volgens de Internet Watch Foundation , die misbruik op het internet opspoort en verwijdert, is het aantal online beelden van seksueel misbruik van kinderen sinds 2014 met 830% toegenomen. De populariteit van AI-tools voor het genereren van afbeeldingen draagt ​​hieraan bij.

Vorig jaar publiceerden wij van het International Policing and Protection Research Institute aan de Anglia Ruskin University een rapport over de groeiende vraag naar door AI gegenereerd online materiaal met seksueel misbruik van kinderen.

Onderzoekers analyseerden chats die de afgelopen 12 maanden plaatsvonden op darkwebforums . We vonden bewijs van een groeiende interesse in deze technologie en van de wens van online daders om anderen meer te laten leren en misbruikafbeeldingen te creëren.

Het is schokkend dat forumleden degenen die de AI-beelden creëren “kunstenaars” noemden. Deze technologie creëert een nieuwe wereld aan mogelijkheden voor daders om de meest perverse vormen van kindermisbruik te creëren en te delen.

Uit onze analyse bleek dat leden van deze forums al beschikbare, niet door AI gegenereerde afbeeldingen en video’s gebruiken om hun leerproces te vergemakkelijken en de software te trainen die ze gebruiken om de afbeeldingen te maken. Velen uitten hun hoop en verwachting dat de technologie zich zou ontwikkelen, waardoor het voor hen nog gemakkelijker zou worden om dit materiaal te creëren.

Darkweb-ruimtes zijn verborgen en alleen toegankelijk via gespecialiseerde software. Ze bieden daders anonimiteit en privacy, waardoor het voor de politie moeilijk is om hen te identificeren en te vervolgen.

De Internet Watch Foundation heeft verontrustende statistieken gedocumenteerd over de snelle toename van het aantal door AI gegenereerde afbeeldingen dat ze tegenkomen tijdens hun werk. Het volume blijft relatief laag in vergelijking met de omvang van de niet-AI-afbeeldingen die worden gevonden, maar de aantallen nemen in een alarmerend tempo toe.

De liefdadigheidsinstelling meldde in oktober 2023 dat er in één maand in totaal 20.254 door AI gegenereerde afbeeldingen naar een darkwebforum waren geüpload. Voordat dit rapport werd gepubliceerd, was er weinig bekend over de dreiging.

De gevaren van AI-misbruik

Daders denken dat door AI gegenereerde beelden van seksueel misbruik van kinderen een slachtofferloos misdrijf zijn, omdat de beelden niet “echt” zijn. Maar ze zijn verre van onschuldig, ten eerste omdat ze gemaakt kunnen worden op basis van echte foto’s van kinderen, inclusief volkomen onschuldige beelden.

Hoewel we nog veel niet weten over de impact van specifiek AI-gegenereerd misbruik, is er veel onderzoek gedaan naar de schade van online seksueel misbruik van kinderen, en naar hoe technologie wordt gebruikt om de impact van offline misbruik te bestendigen of te verergeren . Slachtoffers kunnen bijvoorbeeld blijvende trauma’s oplopen door de permanente aanwezigheid van foto’s of video’s, simpelweg wetende dat de beelden online staan. Daders kunnen ook (echte of neppe) beelden gebruiken om slachtoffers te intimideren of te chanteren.

Deze overwegingen maken ook deel uit van de voortdurende discussies over deepfake-pornografie , waarvan de overheid ook de productie strafbaar wil stellen .

Al deze problemen kunnen worden verergerd door AI-technologie. Bovendien is de kans groot dat moderators en onderzoekers traumatische gevolgen ondervinden doordat ze misbruikbeelden tot in de kleinste details moeten bekijken om te bepalen of het om ‘echte’ of ‘gegenereerde’ beelden gaat.

Wat kan de wet doen?

Volgens de Britse wetgeving is het momenteel verboden om een ​​aanstootgevende afbeelding of een pseudofoto (een digitaal gecreëerde fotorealistische afbeelding) van een kind te maken, te verspreiden of in bezit te hebben.

Maar er zijn momenteel geen wetten die het bezit van technologie om AI-beelden van seksueel misbruik van kinderen te creëren strafbaar stellen. De nieuwe wetten moeten ervoor zorgen dat politieagenten misbruikers die AI gebruiken of overwegen te gebruiken om deze content te genereren, kunnen aanpakken, zelfs als ze op het moment van onderzoek niet in het bezit zijn van de beelden.

We zullen altijd achter de daders aanlopen als het om technologie gaat, en wetshandhavingsinstanties wereldwijd zullen binnenkort overbelast raken. Ze hebben wetten nodig die hen helpen bij het identificeren en vervolgen van degenen die kinderen en jongeren online willen uitbuiten.

Het is goed nieuws dat de overheid zich inzet om actie te ondernemen, maar het moet snel gebeuren. Hoe langer het duurt voordat de wetgeving wordt ingevoerd, hoe groter het risico dat kinderen worden mishandeld.

Het aanpakken van de wereldwijde dreiging vereist meer dan alleen wetgeving in één land. We hebben een systeembrede aanpak nodig die start bij de ontwikkeling van nieuwe technologie. Veel AI-producten en -tools zijn ontwikkeld om volledig oprechte, eerlijke en onschadelijke redenen, maar ze kunnen gemakkelijk worden aangepast en gebruikt door criminelen die schadelijk of illegaal materiaal willen creëren.

De wetgeving moet hier inzicht in hebben en hierop inspelen, zodat technologie niet kan worden gebruikt om misbruik te vergemakkelijken en zodat we onderscheid kunnen maken tussen degenen die technologie gebruiken om schade toe te brengen en degenen die technologie gebruiken om iets goeds te doen.

Data-analyse van kinderpornofora op het dark web om te strijden tegen misbruik

Veruit de meeste gebruikers van netwerken van seksueel kindermisbruik, oftewel kinderpornofora, op het dark web communiceren daar niet actief, maar downloaden wel illegaal materiaal. Ze plegen daarmee strafbare feiten. Toch blijven ze vaak buiten zicht van politie en justitie. Promovendus Madeleine van der Bruggen kreeg door data-analyse van de fora beter zicht op deze gebruikers.

Van der Bruggen, die voorheen werkte bij de politie, maar nu onderzoeker is bij de Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen, analyseerde de data van in totaal zes fora van seksueel kindermisbruik op het dark web. Die fora hadden opgeteld meer dan 600 duizend actieve gebruikers en de datasets waarmee de promovendus werkte, bevatten ongeveer 760 duizend posts.

Crawlen van het dark web

Om de datasets te verkrijgen werd samengewerkt met it-specialisten. Zo kon bijvoorbeeld data worden gecrawld (het gebruiken van zoekmachinesoftware om een website te indexeren) van het dark web. ‘Ik heb gekeken naar hoe actief gebruikers waren, naar het aantal berichten dat werd verstuurd en bijvoorbeeld naar hoe lang mensen van de fora gebruikmaakten. Maar ik heb ook gekeken naar de inhoud van sommige berichten die verstuurd werden.’

‘Als dit werk je niet meer raakt, dan ben je afgestompt en dat is niet goed’

Van der Bruggen erkent dat haar werk emotioneel belastend is. ‘Je ziet soms dingen die je liever niet had gezien of gelezen. Als dit werk je niet meer raakt, dan ben je afgestompt en dat is niet goed. Het idee dat ik met mijn onderzoek bijdraag aan het voorkomen van seksueel kindermisbruik, weegt voor mij op tegen de mentale stress.’

Gevaar voor kinderen

Met de verzamelde informatie kon de onderzoeker zes daderprofielen opstellen, uiteenlopend van ‘managers’ tot ‘escalators’ en ‘lurkers’. Die laatste groep is verreweg het grootst. Het gaat om mensen die weinig berichten posten, het forum pas betreden als het al langere tijd online is, maar die wel illegale content downloaden. ‘Het zijn niet altijd de mensen die prioriteit krijgen in opsporingsonderzoek, maar ze kunnen evengoed een gevaar vormen voor kinderen in de echte wereld en daarom is het goed dat er ook naar deze groep gekeken wordt.’

Toegankelijkheid en preventie

De enorme aantallen gebruikers van fora van seksueel kindermisbruik zijn volgens Van der Bruggen ‘helaas geen uitzondering meer’. Vanuit haar eerdere werk bij de politie heeft ze gezien hoe het gebruik van de fora enorm is toegenomen. ‘Het dark web was in het begin voor een klein clubje technische mensen, maar door de jaren heen is het veel toegankelijker geworden voor een hele grote groep mensen.’

‘We zien op de fora relatief veel jonge mensen voorbijkomen’

‘You can’t arrest your way out of this’, oftewel: het probleem van online seksueel misbruik van kinderen is niet op te lossen door arrestaties alleen. Het is een zin die Van der Bruggen steeds vaker hoort wanneer ze contact heeft met collega-onderzoekers en mensen uit het veld. Om kindermisbruik te voorkomen is meer preventie nodig, zegt ze. ‘We zien op de fora relatief veel jonge mensen voorbijkomen. Mensen die in een negatieve spiraal zitten en op zoek zijn naar legale pornografie, maar een duistere afslag nemen. Ik denk dat je bij die groep nog goed kunt interveniëren.’

Blijvende samenwerking politie en wetenschap

Om het probleem aan te pakken is het volgens haar noodzakelijk dat de politie en wetenschappers met elkaar blijven samenwerken. De politie kan de onderzoeksdata gebruiken om richting te geven aan opsporingsonderzoek en wetenschappers kunnen aan de slag met de meest prangende onderzoeksvragen die de politie heeft. ‘Meer kennis over mensen die zoeken naar afbeeldingen van seksueel kindermisbruik op het dark web draagt uiteindelijk bij aan betere bescherming van kinderen en daar draait het allemaal om.’