Adversarial and Secure Machine Learning
Adversarial and Secure Machine Learning
| Seminare | 2 SWS / 5 ECTS |
| Veranstalter: | Fabian Franzen |
| Zeit und Ort: | Termin der Vorbesprechung: Mittwoch, 03.02.2021 / 14.00 Uhr per Rocket Chat.
Die Teilnehmer müssen sich bis dahin in folgenden Kanal einschreiben: https://chat.tum.de/invite/BWTRec
Dort wird bis dahin der Seminarverantwortliche Nicolas Müller einen Link zur Videokonferenz posten.
Hinweis : Als Nutzer muss man eingeloggt sein, da der Link sonst nicht funktioniert.
Zwingendes Aufnahmekriterium ist, dass man bereits 2 Einheiten zum Thema 'Machine Learning / Künstliche Intelligenz' absolviert hat, eine Einheit ist dabei ein Seminar oder eine Vorlesung.
|
| Beginn: |
Inhalt: Der größte Umbruch in der Informatik in den letzten zehn Jahren ist der zunehmende Erfolg des maschinellen Lernens: Wissenschaftler lösen immer neue Probleme mit datenbasierten KI-Ansätzen, an denen bisherige, konventionelle Verfahren scheitern. Doch sind diese KI-Systeme auch sicher gegen Manipulation? Es stellt sich heraus, dass dies nicht der Fall ist - wie alle Computersysteme können auch KI-Algorithmen angegriffen und kompromittiert werden.
In diesem Seminar schauen wir uns derartige Angriffe an: Wir werden Evasion Attacks, Poison Attacks und Backdoors kennen lernen, und untersuchen, wie weit man ML-Systeme gegen diese verteidigen kann.
Erwartete Kenntnisse:
Grundlage von machinenes Lernen
Grundlage von wissenschaftlichem Schreiben
Ziel:
1. Verstehen des kontradiktorischen maschinelles Lernen;
2. Verstehen der Schwachstellen von der aktuellen Lernalgorithmen;
3. Verstehen der Idee von robusten und sicheren Lernen;
4. Verbesserung der Schreib- und Präsentationsfähigkeiten.
Unterrichtssprache: Deutsch
Seminarleitung: Nicolas Müller, Fraunhofer AISEC : nicolas.mueller@aisec.fraunhofer.de