Das Seminar LLM Application Security richtet sich an Bachelor oder Masterstudierende, die Interesse am Bereich der IT-Sicherheit mit Fokus auf Angriffe auf Systeme mit integrierten LLMs sowie Verteidigung gegen eben jene haben.
Für das Seminar wählen die Teilnehmer selbst jeweils eins der vorgegebenen Themen aus. Gegeben sind aktuelle Themen der LLM Security. Die Studierenden setzen sich mit der Veröffentlichung und dem zugehörigen Themenkomplex eigenverantwortlich auseinander. Es können gerne auch eigene Themenvorschläge eingebracht werden, diese müssen allerdings im Vorfeld mit den Betreuern abgestimmt werden.
Für die Prüfungsleistung müssen die Studierenden eine schriftliche Ausarbeitung erstellen sowie eine Präsentation halten. Die Ausarbeitung soll einen kleinen eigenen Beitrag zum Thema enthalten. Dies könnte zum Beispiel das Isolieren einer offenen Problemstellung sein, das Definieren neuer Anwendungsmöglichkeiten oder eine kleine Vergleichs- oder Replikationsstudie. Somit sind die Studierenden nicht nur gefordert sich mit dem Paper, selber sondern auch mit den thematisch verwandten Arbeiten und somit dem aktuellen Stand der Wissenschaft auseinander zu setzen. Der eigene Beitrag soll dabei in einem dem Seminar zeitlich angemessenen Rahmen sein. Es ist gewünscht, dass dieser eigene Beitrag gemeinsam mit den Betreuern des Seminars abgeklärt und/oder identifiziert wird. Wir freuen uns darauf euch in eurem Lernprozess im wissenschaftlichen Arbeiten zu betreuen.
Wir planen zudem für dieses Seminar die Teilnehmer:innen in zwei Gruppen aufzuteilen, solche die Angriffe und solche die Verteidigungen schwerpunktmäßig bearbeiten. Im Rahmen des Seminars sollen dann die jeweiligen Techniken gegeneinander erprobt werden, um Erkenntnisse über die Limitationen und Fähigkeiten der verschiedenen Methodiken zu gewinnen. Die Teilnahme daran ist verpflichtend.
| Dozent | Prof. Johns |
| T.A. | Malte Wessels |
| Betreuer | Malte Wessels, Robin Kirchner |
Die genauen Themen werden später bekannt gegeben.