Aktuelle
Meldungen
ATHENE Forschende stellen fest: KI-Bildgeneratoren erzeugen unbeabsichtigt Darstellungen Minderjähriger
ATHENE-Forschende des Fraunhofer SIT haben in einer aktuellen Studie nachgewiesen, dass verbreitete KI-Bildgeneratoren trotz expliziter Anweisung zur Darstellung Erwachsener in erheblichem Umfang sexualisierte Abbildungen Minderjähriger produzieren. Da in Deutschland bereits der unbeabsichtigte Besitz solcher Darstellungen strafbar sein kann, stellt dieser Befund ein ernstes rechtliches Risiko für Nutzende dar.
Für die Studie erzeugten die Forschenden 400.000 synthetische Erotikbilder mit sechs weit verbreiteten Bildgeneratoren, wobei sämtliche Texteingaben ausdrücklich erwachsene Personen verlangten. Alle sechs Modelle erzeugten dennoch Bilder mit als minderjährig eingestuften Personen; der Anteil kritischen Materials betrug bis zu 36 Prozent. Die Forschenden empfehlen, Begriffe wie „Teenager" zu vermeiden und „child" oder „minor" explizit als Negativbeschreibungen einzusetzen.
Die Studie wurde erstmals auf der internationalen Fachkonferenz IEEE Workshop on Applications of Computer Vision (WACV 2026) vorgestellt und ist frei zugänglich unter https://openaccess.thecvf.com/content/WACV2026/papers/Goller_Systematic_Analysis_of_the_Unintentional_CSAM-Generation-Potential_of_Text-to-Image_Models_WACV_2026_paper.pdf.
Weitere Informationen in der Pressemitteilung des Fraunhofer SIT
Zur News-Übersicht
Newsletter
Melden Sie sich zu unserem Newsletter an.