Dieses (Pro-)Seminar findet regelmäßig jedes Semester statt und richtet sich an Bachelor- und Masterstudierende. Es behandelt grundlegende und fortgeschrittene (aktuelle) Themen der informationstheoretischen Grundlagen des Maschinellen Lernens. Eine indikative, aber nicht vollständige Liste möglicher Themen ist:
- Wahrscheinlichkeitsverteilungen
- Elemente der Lerntheorie
- Entropie-Maßnahmen, Cross-Entropie
- Gegenseitige Information und Entfernungsmetriken über Wahrscheinlichkeitsverteilungen
- Lernen von Kompression und Repräsentation
- Autoencoder und variable Autoencoder
- ML zum Schutz der Privatsphäre
- Robustheit, Adversarial ML
- Mustererkennung und Anomalieerkennung
- Statistische Signalverarbeitung und maschinelles Lernen
- Moderne generative modelle (Diffusionsmodelle, Transformer, ...)
- NLP
- Kausalität und Informationsdekomposition
- ...