Künstliche Intelligenz (KI) revolutioniert die IT-Sicherheit, indem sie sowohl neue Angriffsmöglichkeiten für Cyberkriminelle schafft als auch leistungsstarke Verteidigungswerkzeuge für Sicherheitsexperten bereitstellt. Ein Classroom-Kurs von heise academy, geleitet von Experte Frank Ully, vermittelt die Grundlagen und fortgeschrittenen Techniken im Umgang mit KI in der Cybersicherheit. Der Kurs behandelt den gesamten Lebenszyklus vertrauenswürdiger KI, sichere Modellauswahl, den Aufbau datenschutzkonformer Infrastrukturen mit RAG und MCP sowie die Nutzung von KI-Assistenten zur Augmentierung menschlicher Fähigkeiten. Teilnehmende lernen, Coding-Agenten zur Verbindung von Tools und zur Entwicklung eigener Sicherheitswerkzeuge einzusetzen, die eigene Angriffsfläche zu reduzieren und das Patch-Management zu beschleunigen. Des Weiteren werden LLM-Systeme gegen Prompt Injections gehärtet und durch Guardrails geschützt, wobei Red-Teaming-Werkzeuge zur Wirksamkeitsprüfung eingesetzt werden. Das Hauptziel ist die Unterstützung von IT-Sicherheitsverantwortlichen, damit diese sich auf komplexe Bedrohungen konzentrieren können, während KI die Routineaufgaben übernimmt.