Die Sicherheit von großen Sprachmodellen (LLMs) ist zunehmend gefährdet, da Angriffe über einfache Prompt-Injections hinausgehen. Diese Modelle, die das Rückgrat vieler KI-Anwendungen bilden, sind anfällig für Probleme wie das Erfinden von Fakten und Quellen sowie aktive Angriffe. Aktuelle Angriffe sind komplex und ermöglichen es Angreifern, Systeme zu erkunden, Persistenz im Netzwerk zu erlangen und LLMs fernzusteuern. Dies stellt eine wachsende Herausforderung dar, da KI-Systeme immer weiter in verschiedene Software und Infrastrukturen integriert werden.