Google a annoncé mardi des modifications significatives pour son intelligence artificielle Gemini, visant à prévenir la dépendance des jeunes utilisateurs. Ces mesures interdisent à Gemini de simuler des attributs humains ou de prétendre être une personne, et empêchent tout langage simulant l'intimité ou exprimant des besoins. Ces précautions interviennent dans un contexte de préoccupations croissantes concernant les effets psychologiques des IA génératives sur les adolescents, certains utilisant ces outils pour des interactions sociales. Google a également introduit de nouvelles fonctionnalités de santé mentale, offrant des liens directs vers des centres de soutien en cas de détection de pensées suicidaires ou d'automutilation, tout en rappelant que Gemini n'est pas un substitut à l'aide professionnelle.