Security and Privacy in Artificial Intelligence (SenPAI)

Sicherheit und Transparenz KI-basierter Lösungen

Verfahren des Maschinellen Lernens (ML) werden in den unterschiedlichsten Anwendungsbereichen eingesetzt, in denen große Mengen von Daten analysiert werden müssen. Aber auch ML-Algorithmen und trainierte Neuronale Netze sind angreifbar und es kann zum Abfluss sensibler persönlicher Daten kommen. ATHENE verfolgt zum einen das Ziel, die Sicherheit von ML-Algorithmen und -Systemen unter besonderer Berücksichtigung der He­raus­for­de­rung­en im Bereich Datenschutz zu erhöhen. Darüber hinaus untersucht ATHENE die bereits bestehenden Möglichkeiten, die ML-Tech­no­logien für die Entwicklung von Security-Lösungen bieten und setzt diese in konkrete Anwendungen um.

Leitende Wissenschaftler*innen

Prof. Martin Steinebach

Prof. Martin Steinebach
Koordinator
E-Mail

Prof. Iryna Gurevych

Prof. Iryna Gurevych

Prof. Jan Peters

Prof. Jan Peters