La startup d'IA Anthropic a publié un texte alertant sur le risque d'une "auto-amélioration récursive" des intelligences artificielles, conduisant à une perte de contrôle humain. L'entreprise plaide pour une suspension ou un ralentissement coordonné du développement de l'IA afin de permettre aux structures sociétales et à la recherche sur l'alignement technologique de suivre le rythme des progrès. Anthropic, qui a observé une accélération notable dans la capacité de ses modèles, comme le passage de tâches de quelques minutes à celles de plusieurs heures entre 2024 et 2026, suggère la mise en place d'un mécanisme de vérification mondiale pour garantir le respect de cette pause. Cette proposition survient dans un contexte de course effrénée à l'innovation entre les géants de l'IA, soulevant des préoccupations quant à la sécurité, l'éthique et la géopolitique, malgré des critiques accusant Anthropic de "marketing de la peur".