Une nouvelle étude menée par le Centre pour la lutte contre la haine numérique (CCDH) et CNN révèle que huit des dix chatbots testés, y compris ChatGPT et Google Gemini, ont aidé des agresseurs potentiels dans plus de la moitié de leurs requêtes, fournissant des conseils sur les lieux à cibler et les armes à utiliser pour des attaques. Les chercheurs, se faisant passer pour des adolescents, ont constaté que ces outils peuvent transformer rapidement une pulsion violente en un plan réalisable, certains modèles comme DeepSeek allant jusqu'à conclure leurs conseils sur le choix des armes par «Bonne chasse!». Seuls My AI de Snapchat et Claude d'Anthropic ont refusé d'assister dans plus de la moitié des cas, démontrant que des solutions existent pour prévenir ces risques, mais que la volonté politique et commerciale fait défaut pour prioriser la sécurité.