IT & AI Security
Niveau
2. Studienzyklus, Master
Lernergebnisse der Lehrveranstaltungen/des Moduls
Die Teilnehmer:innen:
• können Grundlagen der IT-Sicherheit, inklusive Bedrohungsmodelle, CIA-Triade erklären
• können typische Cybersecurity-Bedrohungen beschreiben und grundlegende Schutzmechanismen erklären
• können Besonderheiten der KI-Sicherheit beschreiben und KI-spezifische Angriffsvektoren (Prompt Injection, Data Poisoning, Model Inversion, Adversarial Attacks) analysieren
• können Risiken und Fehlermodi generativer Modelle (LLMs) beurteilen und geeignete Sicherheits-, Monitoring- und Governance-Maßnahmen ableiten
• können KI-Systeme in IT-Infrastrukturen sicher anwenden
• können Grundlagen der IT-Sicherheit, inklusive Bedrohungsmodelle, CIA-Triade erklären
• können typische Cybersecurity-Bedrohungen beschreiben und grundlegende Schutzmechanismen erklären
• können Besonderheiten der KI-Sicherheit beschreiben und KI-spezifische Angriffsvektoren (Prompt Injection, Data Poisoning, Model Inversion, Adversarial Attacks) analysieren
• können Risiken und Fehlermodi generativer Modelle (LLMs) beurteilen und geeignete Sicherheits-, Monitoring- und Governance-Maßnahmen ableiten
• können KI-Systeme in IT-Infrastrukturen sicher anwenden
Voraussetzungen der Lehrveranstaltung
Grundkenntnisse in Programmierung und Mathematik/Statistik
Lehrinhalte
IT-Security Fundamentals
- Sicherheitsziele (CIA), Bedrohungsmodelle, Risk Assessment
- Authentifizierung, Autorisierung, Identitätsmanagement
- Grundlagen der Kryptografie (Hashing, Symmetrische/Asymmetrische Verfahren)
Security in Machine Learning & AI Systems
- Besonderheiten moderner KI-Systeme
- KI-spezifische Angriffe:
- Prompt Injection, Indirect Prompt Injection
- Jailbreaking & Halluzinationen
- Data Poisoning & Backdooring
- Adversarial Examples
- Model Extraction & Model Inversion
- Angriffsflächen bei LLMs, Agentic AI und RAG-Systemen
- Schutzmechanismen: Guardrails, Red Teaming, Input Validation, Sandboxing
Sichere GenAI- und LLM-Integration
- API-Security & Zugriffskontrolle
- Daten- und Metadatensicherheit
- Logging, Monitoring & Audit Trails
- Content Filtering, Safety Layers & Moderation
- Sicherheitsziele (CIA), Bedrohungsmodelle, Risk Assessment
- Authentifizierung, Autorisierung, Identitätsmanagement
- Grundlagen der Kryptografie (Hashing, Symmetrische/Asymmetrische Verfahren)
Security in Machine Learning & AI Systems
- Besonderheiten moderner KI-Systeme
- KI-spezifische Angriffe:
- Prompt Injection, Indirect Prompt Injection
- Jailbreaking & Halluzinationen
- Data Poisoning & Backdooring
- Adversarial Examples
- Model Extraction & Model Inversion
- Angriffsflächen bei LLMs, Agentic AI und RAG-Systemen
- Schutzmechanismen: Guardrails, Red Teaming, Input Validation, Sandboxing
Sichere GenAI- und LLM-Integration
- API-Security & Zugriffskontrolle
- Daten- und Metadatensicherheit
- Logging, Monitoring & Audit Trails
- Content Filtering, Safety Layers & Moderation
Empfohlene Fachliteratur
- Anderson, R. (2021): Security Engineering
- Papernot, N. (2018): Security and Privacy in Machine Learning
- Chio, C., Freeman, D. (2018): Machine Learning and Security: Protecting Systems with Data and Algorithms
- Zenker, P. (2026): Genai Security: Secure Chatbots and Agent Systems
- Papernot, N. (2018): Security and Privacy in Machine Learning
- Chio, C., Freeman, D. (2018): Machine Learning and Security: Protecting Systems with Data and Algorithms
- Zenker, P. (2026): Genai Security: Secure Chatbots and Agent Systems
Bewertungsmethoden und -Kriterien
Klausur
Unterrichtssprache
Deutsch
Anzahl der zugewiesenen ECTS-Credits
4
Semesterwochenstunden (SWS)
Geplante Lehr- und Lernmethode
- Vortrag mit Diskussion
- Bearbeitung von Übungsaufgaben
- Interaktiver Workshop
- Bearbeitung von Übungsaufgaben
- Interaktiver Workshop
Semester/Trisemester, In dem die Lehrveranstaltung/Das Modul Angeboten wird
3