Während des ersten weltweiten Dialogs über KI-Governance am Montag in Genf forderte UN-Generalsekretär António Guterres ein weltweites Verbot von KI-gesteuerten „Killer-Robotern“. Guterres bezeichnete die Entwicklung autonomer Waffen als „moralisch abscheulich“ und betonte, dass Entscheidungen über die Entnahme menschlichen Lebens strikt unter menschlicher Kontrolle bleiben müssen. Dieser Appell deckt sich mit jüngsten ethischen Warnungen von Papst Leo XIV. bezüglich der Heiligkeit des Lebens in der Kriegsführung. Während einige Befürworter argumentieren, dass KI zivile Opfer reduzieren oder einen strategischen Vorteil gegenüber Gegnern wie China und Russland sichern könnte, befürchten andere ein unkontrollierbares Wettrüsten. Die Debatte wird durch interne Konflikte im Silicon Valley erschwert, wie etwa den Rechtsstreit von Anthropic mit der US-Regierung, sowie durch das Versprechen von Präsident Trump, den Einsatz von KI in militärischen Bereichen zu beschleunigen. Befürworter warnen, dass undurchsichtige Entscheidungsprozesse in autonomen Systemen letztlich zu einem totalen Verlust der menschlichen Kontrolle führen könnten.