© Veronika Krauß | TU Darmstadt

Die Studie zeigt, dass die KI-Systeme beispielsweise gefälschte Kundenrezensionen, künstlich erzeugte Zeitdruck-Anzeigen oder irreführende Preisvergleiche in HTML-Code einbauen, wenn sie zur Erstellung von Produktübersichten für Online-Shops aufgefordert werden. Dr. Veronika Krauß, eine der Studienautorinnen aus der von ATHENE-PI Prof. Jan Gugenheimer geleiteten Ar­beits­grup­pe "Mensch-Computer-Interaktion (MCI), erklärt: "Diese Designmuster sind darauf ausgelegt, Nutzende zu Handlungen zu bewegen, die sie eigentlich nicht beabsichtigen." Als Ursache identifizieren die Forschenden die Trainingsdaten der KI-Systeme, die zahlreiche Beispiele manipulativer Webdesigns enthalten, wodurch diese Praktiken ohne menschliches Eingreifen reproduziert werden können. Die Ergebnisse wurden auf der ACM CHI Conference on Human Factors in Computing Systems in Yokohama präsentiert und verdeutlichen den Handlungsbedarf bei KI-Anbietern zur Implementierung robuster Erkennungs- und Präventionsmechanismen. Die Studie kann unter https://dl.acm.org/doi/pdf/10.1145/3706598.3713083 kostenfrei heruntergeladen werden. 

Weitere  Informationen in der Pressemitteilung