TUM Logo

Adversarial and Secure Machine Learning

Adversarial and Secure Machine Learning  

Seminare 2 SWS / 5 ECTS
Veranstalter: Fabian Franzen
Zeit und Ort:
Termin der Vorbesprechung: Mittwoch, 03.02.2021 / 14.00 Uhr  per Rocket Chat.
Die Teilnehmer müssen sich bis dahin in folgenden Kanal einschreiben: https://chat.tum.de/invite/BWTRec
Dort wird  bis dahin der Seminarverantwortliche Nicolas Müller einen Link zur Videokonferenz posten.
 
Hinweis : Als Nutzer muss man eingeloggt sein, da der Link sonst nicht funktioniert.
 
Zwingendes Aufnahmekriterium ist, dass man bereits 2 Einheiten zum Thema 'Machine Learning / Künstliche Intelligenz' absolviert hat, eine Einheit ist dabei ein Seminar oder eine Vorlesung.
 
Beginn:

Die Veranstaltung wird in Deutsch gehalten
Das Material steht in Deutsch zur Verfuegung
Die Pr?ung ist auf Deutsch

Inhalt: Der größte Umbruch in der Informatik in den letzten zehn Jahren ist der zunehmende Erfolg des maschinellen Lernens: Wissenschaftler lösen immer neue Probleme mit datenbasierten KI-Ansätzen, an denen bisherige, konventionelle Verfahren scheitern. Doch sind diese KI-Systeme auch sicher gegen Manipulation? Es stellt sich heraus, dass dies nicht der Fall ist - wie alle Computersysteme können auch KI-Algorithmen angegriffen und kompromittiert werden.
In diesem Seminar schauen wir uns derartige Angriffe an: Wir werden Evasion Attacks, Poison Attacks und Backdoors kennen lernen, und untersuchen, wie weit man ML-Systeme gegen diese verteidigen kann.

 

Erwartete Kenntnisse:

Grundlage von machinenes Lernen
Grundlage von wissenschaftlichem Schreiben

 

Ziel:

1. Verstehen des kontradiktorischen maschinelles Lernen;
2. Verstehen der Schwachstellen von der aktuellen Lernalgorithmen;
3. Verstehen der Idee von robusten und sicheren Lernen;
4. Verbesserung der Schreib- und Präsentationsfähigkeiten.

 

Unterrichtssprache: Deutsch

 Seminarleitung: Nicolas Müller, Fraunhofer AISEC : nicolas.mueller@aisec.fraunhofer.de