Security and Privacy in Artificial Intelligence (SenPAI)
Sicherheit und Transparenz KI-basierter Lösungen
Verfahren des Maschinellen Lernens (ML) werden in den unterschiedlichsten Anwendungsbereichen eingesetzt, in denen große Mengen von Daten analysiert werden müssen. Aber auch ML-Algorithmen und trainierte Neuronale Netze sind angreifbar und es kann zum Abfluss sensibler persönlicher Daten kommen. ATHENE verfolgt zum einen das Ziel, die Sicherheit von ML-Algorithmen und -Systemen unter besonderer Berücksichtigung der Herausforderungen im Bereich Datenschutz zu erhöhen. Darüber hinaus untersucht ATHENE die bereits bestehenden Möglichkeiten, die ML-Technologien für die Entwicklung von Security-Lösungen bieten und setzt diese in konkrete Anwendungen um.
Leitende Wissenschaftler*innen
Projekte des Forschungsbereichs Security and Privacy in Artificial Intelligence (SenPAI)
Forensic and OSINT Technology with Machine Learning
Protecting Privacy and Sensitive Information in Texts
Security in Large Language Models (SecLLM)
