Principles and Theory for Machine Learning

Principles and Theory for Machine Learning

Overview

Description

• Foundations of supervised learning
• Optimization for ML
• Unsupervised learning
• Neural networks
• Deep learning
• Deep generative models
• Some ML weaknesses
• Interpretable-explainable AI
• Self-supervised learning and foundation models

Qualification goals

Nach erfolgreichem Abschluss dieses Moduls sollten die Studierenden in der Lage sein

• grundlegende Konzepte des maschinellen Lernens zu verstehen und korrekt anzuwenden,
• elementare Werkzeuge zur Analyse der Leistungsfähigkeit von maschinellen Lernansätzen zu beherrschen,
• die wichtigsten Einschränkungen von Methoden des maschinellen Lernens zu erkennen,
• Strategien zur Überwindung solcher Einschränkungen vorzuschlagen.

Proof of Performance

• 1 Prüfungsleistung: Klausur, 90 Minuten, oder mündliche Prüfung, 30 Minuten, oder Take-Home-Exam 1 Studienleistung: 50% der Hausaufgaben müssen bestanden sein

Literature

• Understanding Machine Learning, Shalev-Schwartz & Ben-David, 2014
• Learning Theory from First Principles, Bach, 2024
• Deep Learning, Goodfellow et al., 2016
• Mathematical Theory of Deep Learning, Petersen & Zech, 2024
• Mathematics for Machine Learning, Deisenroth et al., 2020
• Neural Networks and Deep Learning, Aggarwal, 2023 (2nd edition)
• Deep Learning Architectures, Calin, 2020

Requirements

Die Vorlesung und die Übungen setzen eine gute Beherrschung der in den Pflichtmodulen Lineare Algebra und Analysis erworbenen Kenntnisse voraus. Darüber hinaus sind Kenntnisse der Wahrscheinlichkeitsrechnung und erste Erfahrungen mit Werkzeugen des maschinellen Lernens sehr zu empfehlen.