Adversarial and Secure Machine Learning

Adversarial and Secure Machine Learning  

Seminare	2 SWS / 5 ECTS
Veranstalter:	Fabian Franzen
Zeit und Ort:	Preliminary Meeting: 02.07.2020 um 11.00 Uhr per Online-Konferenz:  Link: https://chat.tum.de/invite/RMPugm Bitte erst im Rocketchat anmelden und dann den Link öffnen !!!   Blockseminar: Zeiten tbd
Beginn:

Inhalt: Der größte Umbruch in der Informatik in den letzten zehn Jahren ist der zunehmende Erfolg des maschinellen Lernens: Wissenschaftler lösen immer neue Probleme mit datenbasierten KI-Ansätzen, an denen bisherige, konventionelle Verfahren scheitern. Doch sind diese KI-Systeme auch sicher gegen Manipulation? Es stellt sich heraus, dass dies nicht der Fall ist - wie alle Computersysteme können auch KI-Algorithmen angegriffen und kompromittiert werden.
In diesem Seminar schauen wir uns derartige Angriffe an: Wir werden Evasion Attacks, Poison Attacks und Backdoors kennen lernen, und untersuchen, wie weit man ML-Systeme gegen diese verteidigen kann.

 

Erwartete Kenntnisse:

Grundlage von machinenes Lernen
Grundlage von wissenschaftlichem Schreiben

 

Ziel:

1. Verstehen des kontradiktorischen maschinelles Lernen;
2. Verstehen der Schwachstellen von der aktuellen Lernalgorithmen;
3. Verstehen der Idee von robusten und sicheren Lernen;
4. Verbesserung der Schreib- und Präsentationsfähigkeiten.

 

Unterrichtssprache: Deutsch

 Seminarleitung: Nicolas Müller, Fraunhofer AISEC : nicolas.mueller@aisec.fraunhofer.de