ATHENE-Forschende zeigen: KI-Agenten geben private Daten häufig weiter
KI-Agenten bedienen zunehmend selbstständig Anwendungen wie E-Mail, Kalender oder Aufgabenlisten und greifen dabei auf persönliche Daten aus mehreren Quellen zu. Prof. Dr. Iryna Gurevych, Inhaberin der ersten ATHENE Distinguished Professorship, und ihr Team am UKP Lab der TU Darmstadt untersuchten, ob solche Systeme private Informationen dort belassen, wo sie hingehören, und stießen dabei auf erhebliche Schwachstellen.
weiterlesen
Finalisten ATHENE UP26@it-sa: Blindsight im Interview
Blindsight schafft Transparenz über den gesamten AI-Stack – von Prompt Injection bis Shadow AI. Gegründet von Ethical-Hacking-Experte Guilherme Santos, der immer wieder dieselben Lücken in vermeintlich abgesicherten KI-Systemen fand. Das Ziel: KI-Einsatz nicht verbieten, sondern sicher machen.
weiterlesen
Finalisten ATHENE UP26@it-sa: SQUR im Interview
Das Unternehmen SQUR tritt mit dem Versprechen an, KI-Agenten autonom hacken zu lassen und jeden Fund zu beweisen, statt ihn nur zu vermuten. Entwickelt in Deutschland, mit Datenhaltung in der EU und einem Preis, der auch für den Mittelstand kalkulierbar sein soll.
weiterlesen
Wie KI-generierter Code von Grund auf sicherer wird: Prof. Dr.-Ing. Mira Mezini im Gespräch über SecureCoder
Mehr als 90 Prozent der Softwareentwicklerinnen und -entwickler nutzen heute KI-gestützte Programmierhilfen, obwohl ein erheblicher Teil des generierten Codes Sicherheitslücken enthält. Das ATHENE Missionsprojekt SecureCoder verfolgt einen neuen Ansatz: Sicherheit soll nicht nachträglich geprüft, sondern von Anfang an in die KI-gestützte Codegenerierung eingebaut werden. Wie das gelingen soll, erklärt Projektleiterin Prof. Dr.-Ing. Mira Mezini im Interview.
weiterlesen
Neue ATHENE-Pixi-Bücher geben Einblick in den Alltag von Forscherinnen
Sichtbare Vorbilder entscheiden häufig mit darüber, ob junge Menschen sich später für ein Studium oder einen Beruf in den MINT-Fächern entscheiden. Mit zwei neuen Pixi-Wissen-Büchern schafft ATHENE genau solche Vorbilder für die Cybersicherheitsforschung.
weiterlesen
Newsletter
Melden Sie sich zu unserem Newsletter an.