Adversarial and Secure Machine Learning
Adversarial and Secure Machine Learning
| Seminare | 2 SWS / 5 ECTS |
| Veranstalter: | Nicolas Miller |
| Zeit und Ort: | Seminar Course: Tuesday, 14.00 h - 15.30 h in Room 01.08.033 weekly Exception: 23.06.20, 30.06.20 and 07.07.20: 16.00 h - 17.30 h in Room 01.08.033 |
| Beginn: | 2020-04-21 |
Die Veranstaltung wird in Deutsch gehalten
Das Material steht in Deutsch zur Verfuegung
Die Pr?ung ist auf Deutsch
News
Preliminary meeting
Tuesday, January 28, 2020 at 10:00 in room 01.08.033
Content
Der größte Umbruch in der Informatik in den letzten zehn Jahren ist der zunehmende Erfolg des maschinellen Lernens: Wissenschaftler lösen immer neue Probleme mit datenbasierten KI-Ansätzen, an denen bisherige, konventionelle Verfahren scheitern. Doch sind diese KI-Systeme auch sicher gegen Manipulation? Es stellt sich heraus, dass dies nicht der Fall ist - wie alle Computersysteme können auch KI-Algorithmen angegriffen und kompromittiert werden.
In diesem Seminar schauen wir uns derartige Angriffe an: Wir werden Evasion Attacks, Poison Attacks und Backdoors kennen lernen, und untersuchen, wie weit man ML-Systeme gegen diese verteidigen kann.
Die Organisation des Seminars ist wie folgt: Jede Woche wird ein Student einen Vortrag über ein wissenschaftliches Papier halten (z.b. von hier https://nicholas.carlini.com/writing/2018/adversarial-machine-learning-reading-list.html , gerne auch anderweitige Vorschläge).
Es gibt keine Seminararbeit am Ende - stattdessen ist ein einseitiges Handout der Präsentation anzufertigen.
Die Note setzt sich wie folgt zusammen:
25% der Note ergibt die didaktische Aufbereitung. Hierbei geht es daraum, den Vortrag gut zu strukturieren, und benötigte Vorkenntnisse gut darzustellen, so dass die Basis für das Verständnis des Inhalts gelegt ist.
Zu weiteren 25% wird die Präsentation als Solche bewertet. Es wird hierbei evaluiert, ob der Redner frei vorträgt oder abliest, die Motivation und Problemstellung gut hervorhebt und ob er generell in der Lage ist, den fachlichen Inhalt motivierenden zu präsentieren.
Weitere 50% der Note ergibt die fachliche Qualität des Vortrags.
Zusammenfassend: Es wird wert darauf gelegt, dass die Kommilitonen von den gehaltenen Vorträgen profitieren.
Die Sprache ist deutsch, Vorträge können aber auch auf Englisch gehalten werden (ebenso Handouts), die Teilnehmer müssen aber deutsch verstehen.
Es ist kein Motivationsschreiben notwendig. Es herrscht Anwesenheitspflicht.
In der ersten Seminarstunde führt der Dozent in das Thema ein, in den weiteren halten die Studenten ihre Vorträge.