Security and Privacy in Artificial Intelligence (SenPAI)

Sicherheit und Transparenz KI-basierter Lösungen

Verfahren des Maschinellen Lernens (ML) werden in den unterschiedlichsten Anwendungsbereichen eingesetzt, in denen große Mengen von Daten analysiert werden müssen. Aber auch ML-Algorithmen und trainierte Neuronale Netze sind angreifbar und es kann zum Abfluss sensibler persönlicher Daten kommen. ATHENE verfolgt zum einen das Ziel, die Sicherheit von ML-Algorithmen und -Systemen unter besonderer Berücksichtigung der He­raus­for­de­rung­en im Bereich Datenschutz zu erhöhen. Darüber hinaus untersucht ATHENE die bereits bestehenden Möglich­keiten, die ML-Tech­no­logien für die Entwicklung von Security-Lösungen bieten und setzt diese in konkrete Anwendungen um.

Leitende Wissenschaftler*innen

Prof. Martin Steinebach

Prof. Martin Steinebach
Koordinator
E-Mail

Prof. Iryna Gurevych

Prof. Iryna Gurevych

Prof. Kristian Kersting

Prof. Kristian Kersting

Projekte des Forschungsbereichs Security and Privacy in Artificial Intelligence (SenPAI)

Forensic and OSINT Technology with Machine Learning (FROST + ML)
Protecting Privacy and Sensitive Information in Texts
Security in Large Language Models (SecLLM)