Security and Privacy in Artificial Intelligence (SenPAI)
Sicherheit und Transparenz KI-basierter Lösungen
Verfahren des Maschinellen Lernens (ML) werden in den unterschiedlichsten Anwendungsbereichen eingesetzt, in denen große Mengen von Daten analysiert werden müssen. Aber auch ML-Algorithmen und trainierte Neuronale Netze sind angreifbar und es kann zum Abfluss sensibler persönlicher Daten kommen. ATHENE verfolgt zum einen das Ziel, die Sicherheit von ML-Algorithmen und -Systemen unter besonderer Berücksichtigung der Herausforderungen im Bereich Datenschutz zu erhöhen. Darüber hinaus untersucht ATHENE die bereits bestehenden Möglichkeiten, die ML-Technologien für die Entwicklung von Security-Lösungen bieten und setzt diese in konkrete Anwendungen um.
Leitende Wissenschaftler*innen
Projekte des Forschungsbereichs Security and Privacy in Artificial Intelligence (SenPAI)
Forensic and OSINT Technology with Machine Learning (FROST + ML)
Protecting Privacy and Sensitive Information in Texts
Security in Large Language Models (SecLLM)
