Adversarial and Secure Machine Learning
Adversarial and Secure Machine Learning
Seminare | 2 SWS / 5 ECTS |
Veranstalter: | Fabian Franzen |
Zeit und Ort: | Preliminary Meeting: 02.07.2020 um 11.00 Uhr per Online-Konferenz: Link: Bitte erst im Rocketchat anmelden und dann den Link öffnen !!!
Blockseminar: Zeiten tbd |
Beginn: |
Inhalt: Der größte Umbruch in der Informatik in den letzten zehn Jahren ist der zunehmende Erfolg des maschinellen Lernens: Wissenschaftler lösen immer neue Probleme mit datenbasierten KI-Ansätzen, an denen bisherige, konventionelle Verfahren scheitern. Doch sind diese KI-Systeme auch sicher gegen Manipulation? Es stellt sich heraus, dass dies nicht der Fall ist - wie alle Computersysteme können auch KI-Algorithmen angegriffen und kompromittiert werden.
In diesem Seminar schauen wir uns derartige Angriffe an: Wir werden Evasion Attacks, Poison Attacks und Backdoors kennen lernen, und untersuchen, wie weit man ML-Systeme gegen diese verteidigen kann.
Erwartete Kenntnisse:
Grundlage von machinenes Lernen
Grundlage von wissenschaftlichem Schreiben
Ziel:
1. Verstehen des kontradiktorischen maschinelles Lernen;
2. Verstehen der Schwachstellen von der aktuellen Lernalgorithmen;
3. Verstehen der Idee von robusten und sicheren Lernen;
4. Verbesserung der Schreib- und Präsentationsfähigkeiten.
Unterrichtssprache: Deutsch
Seminarleitung: Nicolas Müller, Fraunhofer AISEC : nicolas.mueller@aisec.fraunhofer.de