Security and Privacy in Artificial Intelligence (SenPAI)

Sicherheit und Transparenz KI-basierter Lösungen

Verfahren des Maschinellen Lernens (ML) werden in den unterschiedlichsten Anwendungsbereichen eingesetzt, in denen große Mengen von Daten analysiert werden müssen. Aber auch ML-Algorithmen und trainierte Neuronale Netze sind angreifbar und es kann zum Abfluss sensibler persönlicher Daten kommen. ATHENE verfolgt zum einen das Ziel, die Sicherheit von ML-Algorithmen und -Systemen unter besonderer Berücksichtigung der He­raus­for­de­rung­en im Bereich Datenschutz zu erhöhen. Darüber hinaus untersucht ATHENE die bereits bestehenden Möglichkeiten, die ML-Tech­no­logien für die Entwicklung von Security-Lösungen bieten und setzt diese in konkrete Anwendungen um.

Leitende Wissenschaftler*innen

Prof. Martin Steinebach

Prof. Martin Steinebach
Koordinator
E-Mail

Prof. Iryna Gurevych

Prof. Iryna Gurevych

Prof. Jan Peters

Prof. Jan Peters

Projekte des Forschungsbereichs Security and Privacy in Artificial Intelligence (SenPAI)

Robustness in Machine Learning (RoMa)
Security and Privacy in Automated OSINT (SePiA)
Adversarial Attacks on NLP systems
EXplainable REinforcement Learning for Secure Intelligent Systems (XReLeaS)