Security and Privacy in Artificial Intelligence (SenPAI)
Sicherheit und Transparenz KI-basierter Lösungen
Verfahren des Maschinellen Lernens (ML) werden in den unterschiedlichsten Anwendungsbereichen eingesetzt, in denen große Mengen von Daten analysiert werden müssen. Aber auch ML-Algorithmen und trainierte Neuronale Netze sind angreifbar und es kann zum Abfluss sensibler persönlicher Daten kommen. ATHENE verfolgt zum einen das Ziel, die Sicherheit von ML-Algorithmen und -Systemen unter besonderer Berücksichtigung der Herausforderungen im Bereich Datenschutz zu erhöhen. Darüber hinaus untersucht ATHENE die bereits bestehenden Möglichkeiten, die ML-Technologien für die Entwicklung von Security-Lösungen bieten und setzt diese in konkrete Anwendungen um.
Leitende Wissenschaftler*innen
Projekte des Forschungsbereichs Security and Privacy in Artificial Intelligence (SenPAI)
Detecting CSAM without the Need for CSAM Training Data (DeCNeC)
Forensic and OSINT Technology with Machine Learning (FROST + ML) (FROST)
LLM-Aided and Affected Authorship Verification/Attribution (LAVA)
Interactive Visual Cyber Analytics for Trust and Explainability in Artificial Intelligence for Sensitive Data (VCAXAI)
Protecting Privacy and Sensitive Information in Texts
Security in Large Language Models (SecLLM)
