De Internet Watch Foundation heeft alarm geslagen over een dramatische toename van AI-gegenereerde video's waarop seksueel misbruik van kinderen te zien is, waarbij de meerderheid in de ergste categorie valt.
The Guardian meldt dat de verspreiding van door AI gegenereerd materiaal over seksueel misbruik van kinderen (CSAM), beter bekend als kinderpornografie, ongekende hoogten heeft bereikt, volgens de laatste bevindingen van de Internet Watch Foundation (IWF). De Britse waakhond voor internetveiligheid meldde een duizelingwekkende toename van door AI gemaakte video's met seksueel misbruik van kinderen, met alleen al in de eerste helft van 2025 1.286 geverifieerde video's, vergeleken met slechts twee in dezelfde periode vorig jaar.
De IWF uitte haar ernstige bezorgdheid over de toenemende geavanceerdheid van deze door AI gegenereerde video's en merkte op dat ze "de drempel hebben overschreden" om bijna niet meer te onderscheiden te zijn van echte beelden van misbruik. Schokkend genoeg werd in iets meer dan 1.000 van de geverifieerde video's categorie A-misbruik afgebeeld, de zwaarste classificatie van kinderpornografie.
Analisten van de IWF schrijven deze alarmerende trend toe aan de miljardeninvesteringen in de AI-industrie, die hebben geleid tot algemeen beschikbare modellen voor het genereren van video's die door pedofielen worden uitgebuit. De gemakkelijke toegang tot deze tools en de snelle vooruitgang in AI-technologie hebben een vruchtbare bodem gecreëerd voor daders om CSAM te creëren en te verspreiden.
De bevindingen van de IWF laten zien dat pedofielen actief technieken bespreken en delen om AI-modellen te manipuleren voor hun snode bedoelingen op dark web fora. Door vrij beschikbare AI-modellen te verfijnen met een klein aantal echte CSAM-video's, kunnen deze individuen verontrustend realistische misbruikvideo's maken.
Derek Ray-Hill, de interim algemeen directeur van de IWF, waarschuwde voor het "ongelofelijke risico" dat AI-gegenereerde CSAM met zich meebrengt, en uitte de vrees dat dit zou kunnen leiden tot een "absolute explosie" van dergelijke inhoud op het illegale web. Hij benadrukte dat de groei van door AI gemaakte kinderporno criminele activiteiten op het gebied van kinderhandel, seksueel misbruik en moderne slavernij zou kunnen aanwakkeren.
De Britse regering heeft op deze groeiende dreiging gereageerd door nieuwe wetgeving in te voeren om AI-gegenereerde CSAM te bestrijden. Volgens de voorgestelde wetten kunnen personen die AI-hulpmiddelen bezitten, maken of verspreiden die ontworpen zijn om misbruikcontent te maken, tot vijf jaar gevangenisstraf krijgen. Daarnaast staat op het bezit van handleidingen die leren hoe AI-tools gebruikt kunnen worden om misbruik te maken van beelden of kinderen, een gevangenisstraf van maximaal drie jaar.
In de Verenigde Staten hebben 38 staten wetten tegen AI-gegenereerde kinderporno, terwijl 12 staten en Washington DC nog geen actie hebben ondernomen.
Lees hier meer in de Guardian .
Lucas Nolan is een verslaggever voor Breitbart News en houdt zich bezig met kwesties op het gebied van vrije meningsuiting en online censuur.
