Darum lohnt sich der Kurs
Dieses praxisorientierte AI-Security-Training vermittelt, wie moderne KI- und LLM-Anwendungen angegriffen, getestet und wirksam abgesichert werden. Sie lernen aktuelle Angriffstechniken wie Prompt Injection, Jailbreaking und LLM-Fuzzing kennen und setzen KI gleichzeitig gezielt für Security Engineering, Security Operations sowie die Schwachstellenanalyse ein. Zahlreiche Hands-on-Übungen, wiederverwendbare Python-Skripte und eine dauerhaft verfügbare Laborumgebung unterstützen den nachhaltigen Praxistransfer und helfen Ihnen, das Gelernte direkt im beruflichen Alltag anzuwenden.Seminarinhalt
In diesem Training vermittelt einer der weltweit führenden Top-Hacker, Dawid Czagan, die Sicherheitsaspekte moderner KI-Systeme praxisnah aus Angreifer- und Verteidigerperspektive. Sie lernen, wie AI-Anwendungen getestet, abgesichert und für tägliche Security-Aufgaben effektiv eingesetzt werden.
Darum geht es konkret: KI hat eine völlig neue Ebene von Sicherheitsrisiken geschaffen – eine, die sowohl aus der Perspektive von Angreifer*innen als auch von Entwickler*innen verstanden werden muss. Dieses Training bietet einen praxisorientierten, ganzheitlichen Leitfaden durch diese Landschaft und zeigt, wie moderne KI-Systeme angegriffen, entwickelt und in realen Sicherheitsszenarien eingesetzt werden. Sie arbeiten sich durch die offensive Seite der KI-Sicherheit und befassen sich mit Prompt Injection, Jailbreaking und dem Fuzzing von LLM-Anwendungen. Darüber hinaus setzen Sie KI im Security Engineering und im operativen Sicherheitsalltag ein – Sie verwandeln KI-Bausteine in praxisnahe Workflows und nutzen KI-Sicherheitstools für tägliche Aufgaben. Im weiteren Verlauf steigen Sie in fortgeschrittene Themen ein: Sie entwickeln agentische KI für Security Operations in Echtzeit, setzen KI für die Schwachstellenforschung und die Entwicklung von Proofs of Concept (PoCs) ein und untersuchen, wie leistungsfähigere KI andere KI-Systeme bewerten kann. Das Training umfasst praxisnahe Übungen, wiederverwendbare Python-Skripte sowie lebenslangen Zugriff auf die Laborumgebung, sodass Sie das Gelernte auch lange nach dem Training weiter vertiefen und in der Praxis anwenden können.
Zu den behandelten Themen gehören:
Wichtige Information Teilnehmende erhalten eine speziell für dieses Training vorbereitete VMware-Laborumgebung mit zahlreichen Übungen und praxisnahen Aufgaben. Nach Abschluss des Trainings kann die Laborumgebung – nach Unterzeichnung einer Vertraulichkeitsvereinbarung (NDA) – nach eigenem Bedarf und im eigenen Tempo weiter genutzt werden, um die behandelten Techniken praktisch und nachhaltig zu vertiefen.
Was Sie mitbringen sollten
Für die Teilnahme wird ein Laptop mit einem 64-Bit-Betriebssystem, mindestens 16 GB RAM, 120 GB freiem Festplattenspeicher, administrativen Rechten sowie der Möglichkeit zum Deaktivieren von Antivirenprogramm und Firewall benötigt. Zudem muss VMware Player bzw. VMware Fusion (jeweils in der 64-Bit-Version) installiert sein. Stellen Sie vor dem Training sicher, dass auf Ihrem System x86_64-virtuelle Maschinen problemlos ausgeführt werden können. Zusätzlich wird ein OpenAI API Key benötigt (verpflichtend). Ein Lakera API Key kann optional verwendet werden. Da sich das Themengebiet der Künstlichen Intelligenz kontinuierlich weiterentwickelt, können bei Bedarf vor Trainingsbeginn weitere technische Anforderungen bekannt gegeben werden.
Darum geht es konkret: KI hat eine völlig neue Ebene von Sicherheitsrisiken geschaffen – eine, die sowohl aus der Perspektive von Angreifer*innen als auch von Entwickler*innen verstanden werden muss. Dieses Training bietet einen praxisorientierten, ganzheitlichen Leitfaden durch diese Landschaft und zeigt, wie moderne KI-Systeme angegriffen, entwickelt und in realen Sicherheitsszenarien eingesetzt werden. Sie arbeiten sich durch die offensive Seite der KI-Sicherheit und befassen sich mit Prompt Injection, Jailbreaking und dem Fuzzing von LLM-Anwendungen. Darüber hinaus setzen Sie KI im Security Engineering und im operativen Sicherheitsalltag ein – Sie verwandeln KI-Bausteine in praxisnahe Workflows und nutzen KI-Sicherheitstools für tägliche Aufgaben. Im weiteren Verlauf steigen Sie in fortgeschrittene Themen ein: Sie entwickeln agentische KI für Security Operations in Echtzeit, setzen KI für die Schwachstellenforschung und die Entwicklung von Proofs of Concept (PoCs) ein und untersuchen, wie leistungsfähigere KI andere KI-Systeme bewerten kann. Das Training umfasst praxisnahe Übungen, wiederverwendbare Python-Skripte sowie lebenslangen Zugriff auf die Laborumgebung, sodass Sie das Gelernte auch lange nach dem Training weiter vertiefen und in der Praxis anwenden können.
Zu den behandelten Themen gehören:
- Prompt Injection (direkt und indirekt)
- LLM Jailbreaking
- Fuzzing von LLM-Anwendungen
- AI-powered Shell
- Advanced Prompting
- Lokale LLMs und Private AI
- AI-Programmierung
- AI Attack Detection
- OpenAI-Modelle und APIs
- Embeddings
- Quantisierung
- LLM Guard
- Agentic AI
- Entwicklung eigener Vorhersagemodelle
- CVE-Recherche und PoC-Entwicklung mit KI
- Bewertung von KI durch KI
- Spezialisierte AI-Security-Tools
- und vieles mehr...
Wichtige Information Teilnehmende erhalten eine speziell für dieses Training vorbereitete VMware-Laborumgebung mit zahlreichen Übungen und praxisnahen Aufgaben. Nach Abschluss des Trainings kann die Laborumgebung – nach Unterzeichnung einer Vertraulichkeitsvereinbarung (NDA) – nach eigenem Bedarf und im eigenen Tempo weiter genutzt werden, um die behandelten Techniken praktisch und nachhaltig zu vertiefen.
Was Sie mitbringen sollten
Für die Teilnahme wird ein Laptop mit einem 64-Bit-Betriebssystem, mindestens 16 GB RAM, 120 GB freiem Festplattenspeicher, administrativen Rechten sowie der Möglichkeit zum Deaktivieren von Antivirenprogramm und Firewall benötigt. Zudem muss VMware Player bzw. VMware Fusion (jeweils in der 64-Bit-Version) installiert sein. Stellen Sie vor dem Training sicher, dass auf Ihrem System x86_64-virtuelle Maschinen problemlos ausgeführt werden können. Zusätzlich wird ein OpenAI API Key benötigt (verpflichtend). Ein Lakera API Key kann optional verwendet werden. Da sich das Themengebiet der Künstlichen Intelligenz kontinuierlich weiterentwickelt, können bei Bedarf vor Trainingsbeginn weitere technische Anforderungen bekannt gegeben werden.
Programm
Der Kurs findet vollständig auf Englisch statt.
Alle Übungen und Unterlagen sind ebenfalls ausschließlich auf Englisch verfügbar.
Alle Übungen und Unterlagen sind ebenfalls ausschließlich auf Englisch verfügbar.
- AI/LLM attack vectors, including various forms of prompt injection and LLM jailbreaking techniques
- AI programming for security practitioners — working with local LLMs / private AI and cloud models (OpenAI / API), and building AI workflows for security use cases (e.g. fully private AI setups)
- AI attack detection, including the use of local LLMs, anonymizing data before sending it to cloud LLM providers, and applying open-source defenses such as LLM Guard
- Fuzzing LLM applications, which differs from traditional fuzzing due to the non-deterministic nature of modern LLMs
- Using AI in security practitioners' daily operations — including AI-powered shell, advanced prompting, and AI security tools
- Ready-to-use Python scripts, providing hands-on experience and reusable AI building blocks for daily security tasks
- Smarter AI assessing other AI, along with interesting AI techniques and projects for security practitioners
- CVE research and PoC development with AI
- Building agentic AI for real-time security operations
Zielgruppen
- Security Engineers
- Penetration Tester*innen
- SOC Analyst*innen
- Entwickler*innen
- alle, die sich für die Sicherheit von KI-Systemen interessieren
Vorkenntnisse
Vorausgesetzt werden
- grundlegende Kenntnisse der Applikationssicherheit sowie
- erste Erfahrungen mit Webtechnologien und APIs.
- grundlegende Programmier- oder Skriptingkenntnisse,
- Erfahrung mit Security-Testing-Verfahren sowie
- ein sicherer Umgang mit der Kommandozeile.
