De Amerikaanse webwinkel Amazon heeft een aanzienlijk aantal meldingen van kindermisbruikbeelden in AI-trainingsdata gedaan bij het meldpunt NCMEC. Vorig jaar ontving NCMEC vijftien keer zoveel AI-gerelateerde meldingen als in 2024, waarvan de meerderheid afkomstig was van Amazon. Een woordvoerder van Amazon verklaarde dat de trainingsdata uit externe bronnen komen en dat het bedrijf geen details kan verstrekken over de herkomst ervan, ondanks inspanningen om materiaal met betrekking tot seksueel misbruik van kinderen te voorkomen. Dit probleem ontstaat doordat bedrijven in de AI-competitie enorme hoeveelheden data, vaak van publieke internetbronnen, gebruiken voor modeltraining, waarbij de risico's van het gebruik van bijvoorbeeld beelden van kindermisbruik niet altijd worden overzien, wat kan leiden tot de creatie van vergelijkbare beelden door AI-modellen.