Mathematische Grundlagen des Maschinenlernens
Mathematical Foundations of Machine Learning

Modul MA4801

Dieses Modul wird durch Fakultät für Mathematik bereitgestellt.

Diese Modulbeschreibung enthält neben den eigentlichen Beschreibungen der Inhalte, Lernergebnisse, Lehr- und Lernmethoden und Prüfungsformen auch Verweise auf die aktuellen Lehrveranstaltungen und Termine für die Modulprüfung in den jeweiligen Abschnitten.

Basisdaten

MA4801 ist ein Semestermodul in Englisch auf Master-Niveau das im Sommersemester angeboten wird.

Das Modul ist Bestandteil der folgenden Kataloge in den Studienangeboten der Physik.

  • Spezialisierung im Elitemasterstudiengang Theoretische und Mathematische Physik (TMP)
GesamtaufwandPräsenzveranstaltungenUmfang (ECTS)
180 h 60 h 6 CP

Inhalte, Lernergebnisse und Voraussetzungen

Inhalt

A) Neurale Netzwerke
(1) der Perzeptron
(2) Netzwerkarchitektur (Vorkopplungsnetzwerke)
(3) Kolmogorov’s Überlagerungstheorem
(4) Rückwärtsausbreitung und Lern-Algorithmen
(5) Approximationseigenschaften von verschiedenen Architekturen
B) Kernmethoden
(1) Positiv definite Kerne
(2) Mercerkerne
(3) Hilberträume mit reproduzierendem Kern
(4) Regularisierungstechniken und Tragender Vektor Maschinen (Support vector machine, SVM)
(5) Darstellungstheorem für den Minimierer
(6) Numerische Algorithmen für SVMs
C) Qualitative Theorie
(1) Verlustfunktion
(2) Risikofunktionale
(3) Minimierung des empirischen Risikos
(4) Verzerrung-Varianz-Dilemma
(5) Übereinstimmung
(6) Komplexitätsschranken

Lernergebnisse

Das Modul besteht aus einer Vorlesung und einer begleitenden Übungsveranstaltung. In der Vorlesung werden mit Hilfe der Inhalte die entsprechenden Kompetenzen durch Vortrag und Diskussion vermittelt. Studierende sollen dabei zum Studium der Literatur und der inhaltlichen Auseinandersetzung mit den Themen angeregt werden. Die Kompetenzen werden anschließend in der Übung an Fallbeispielen oder Aufgaben erst angeleitet im Laufe des Semesters immer mehr selbstständig Einzeln zum Teil auch in Kleingruppen geübt und erworben.

Voraussetzungen

MA1001 Analysis 1, MA1002 Analysis 2, MA1101 Lineare Algebra 1, MA1102 Lineare Algebra 2, MA1401 Einführung in die Wahrscheinlichkeitstheorie, MA2003 Maß- und Integrationstheorie, MA3001 Funktionalanalysis. Optional: MA2501 Algorithmische Diskrete Mathematik, MA2503 Nichtlineare Optimierung: Grundlagen

Lehrveranstaltungen, Lern- und Lehrmethoden und Literaturhinweise

Lehrveranstaltungen und Termine

Lern- und Lehrmethoden

Das Modul besteht aus einer Vorlesung und einer begleitenden Übungsveranstaltung. Die Inhalte der Vorlesung werden im Vortrag und durch Präsentationen vermittelt. Studierende sollen zum Studium der Literatur und der inhaltlichen Auseinandersetzung mit den Themen angeregt werden. In den Übungen werden teilweise in Gruppenarbeit gemeinsam konkrete Fragestellungen beantwortet und ausgesuchte Beispiele bearbeitet.

Medienformen

Die folgenden Medien werden verwendet:
- Tafel
- Folien

Literatur

C.M. Bishop, Pattern Recognition and Machine Learning, Springer 2006.
D.J.C. MacKay, Information Theory, Inference, and Learning Algorithms, Cambridge Univ. Press 2003.
V.N. Vapnik, Statistical Learning Theory, Wiley 1998.
T. Hastie, R. Tibshirani, J. Fiedman, The Elements of Statistical Learning Theory, Springer 2009.

Modulprüfung

Beschreibung der Prüfungs- und Studienleistungen

Die Modulleistung wird in Form einer schrifltichen Prüfung (60 Minuten) erbracht. In dieser soll das Verständnis der Studierenden von Definitionen und wesentlichen Hilfsmitteln und Ergebnissen des Maschinenlernens nachgewiesen werden. Von den Studierenden wird erwartet, dass sie die Methoden herleiten, ihre Eigenschaften erklären und sie auf spezifische Beispiele anwenden können.

Wiederholbarkeit

Eine Wiederholungsmöglichkeit wird am Semesterende angeboten.

Kondensierte Materie

Wenn Atome sich zusammen tun, wird es interessant: Grundlagenforschung an Festkörperelementen, Nanostrukturen und neuen Materialien mit überraschenden Eigenschaften treffen auf innovative Anwendungen.

Kern-, Teilchen-, Astrophysik

Ziel der Forschung ist das Verständnis unserer Welt auf subatomarem Niveau, von den Atomkernen im Zentrum der Atome bis hin zu den elementarsten Bausteinen unserer Welt.

Biophysik

Biologische Systeme, vom Protein bis hin zu lebenden Zellen und deren Verbänden, gehorchen physikalischen Prinzipien. Unser Forschungsbereich Biophysik ist deutschlandweit einer der größten Zusammenschlüsse in diesem Bereich.