In einer aktuellen Episode des Podcasts von Richard Seidl erörtert der Sicherheitsexperte Jan Jürjens die komplexen Herausforderungen bei der Absicherung von KI-Systemen. Die Diskussion konzentriert sich auf die spezifischen Angriffsflächen selbstlernender Software, insbesondere auf die Problematik manipulierter Trainingsdaten, die für Entwickler oft nur schwer identifizierbar sind. Jürjens, der als Director Research Projects am Fraunhofer ISST tätig ist, betont die Notwendigkeit robuster Schutzmechanismen wie Penetrationstests und spezieller Filter für sensible Anfragen. Diese Themen bilden zudem den inhaltlichen Schwerpunkt der kommenden Online-Konferenz „KI und Security“, die am 11. Mai von iX und dem dpunkt.verlag veranstaltet wird. Ziel ist es, Strategien zur Abwehr von Angriffen auf KI-Anwendungen zu vermitteln und den Einsatz von KI-Tools zur Steigerung der allgemeinen Softwarequalität in agilen Projekten zu fördern.