Une étude menée par les chercheurs Simon Lermen et Daniel Paleka révèle que les grands modèles de langage, tels que ChatGPT, peuvent être utilisés par des cybercriminels ou des États autoritaires pour compromettre l'anonymat en ligne. En analysant les informations partagées sur les réseaux sociaux, ces IA sont capables d'associer des comptes anonymes à des individus réels avec une grande précision, comme l'a démontré une expérience où un compte a été identifié grâce à des détails sur ses promenades de chien et ses difficultés scolaires. Cette capacité d'analyse rapide et efficace soulève des préoccupations majeures quant à la vie privée, permettant des attaques de phishing sophistiquées et le ciblage de dissidents, incitant les chercheurs à demander une réévaluation des données considérées comme privées et une restriction de l'accès des IA aux informations des utilisateurs.