Shiying Fan
Wissenschaftliche Mitarbeiterin am Fraunhofer SIT
Vortrag: Automatisierte Erkennung von Cybergrooming: Technische Entwicklungen und zukünftige Herausforderungen
Biografie
Shiying Fan ist wissenschaftliche Mitarbeiterin bei Fraunhofer SIT in der Abteilung MSF. Mit ihrem Hintergrund in der Computerlinguistik forscht sie zu Methoden der automatisierten Erkennung schädlicher Online-Inhalte mit einem besonderen Schwerpunkt auf der Cybergrooming-Erkennung. Darüber hinaus befasst sie sich mit Fragestellungen der Generalisierbarkeit und Robustheit von KI-Modellen sowie Evaluation der Qualität KI-generierter Artefakte.
Vortrag
Automatisierte Erkennung von Cybergrooming: Technische Entwicklungen und zukünftige Herausforderungen
Die automatisierte Erkennung von Cybergrooming ist seit über einem Jahrzehnt ein aktives interdisziplinäres Forschungsgebiet, da Cybergrooming eine schwerwiegende Form des Online-Missbrauchs von Minderjährigen darstellt. Der Vortrag beleuchtet die technische Entwicklung computergestützter Erkennungsverfahren - von klassischen regelbasierten und maschinellen Lernverfahren bis hin zu aktuellen Deep-Learning- und LLM-basierten Ansätzen. Darüber hinaus werden die Grenzen bestehender Verfahren sowie zentrale Herausforderungen der Forschung, insbesondere im Hinblick auf die frühzeitige Erkennung von Grooming-Prozessen, diskutiert. Abschließend wird aufgezeigt, wie generative KI und digitale Identitäten die Bedrohungslandschaft verändern und aus einer zukünftigen Perspektive neue Anforderungen an Erkennungsverfahren entstehen könnten.
