Une étude récente de l'institut Future of Humanity de l'université d'Oxford, dirigée par Toby Ord, suggère un risque significatif d'extinction humaine d'ici la fin du siècle, attribuant une probabilité de 1 sur 10 à une "intelligence artificielle non alignée". Ce risque dépasse celui des pandémies (1 sur 30) et est comparable à celui d'une guerre nucléaire ou du dérèglement climatique (1 sur 1000), bien que bien inférieur à celui d'une chute d'astéroïde ou d'une super-éruption volcanique. Ces avertissements proviennent de chercheurs spécialisés en IA, dont des lauréats du prix Turing, qui s'appuient sur le principe de "désalignement" pour leurs prédictions sombres concernant l'avenir de l'humanité face aux avancées rapides de l'intelligence artificielle.