Wie sicher ist Maschinelles Lernen?

13.08.2020

Studie untersucht die Umsetzung von Sicherheitsaspekten in Maschinellen Lernverfahren. Für die Umfrage werden Praktiker*innen gesucht.

Welchen Stellenwert Sicherheit und Privatsphäre bei Maschinellen Lernverfahren haben, untersuchen Wissen­schaft­lerinnen und Wissenschaftler des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC, des Fraunhofer-Instituts für Sichere Informations­technologie SIT, des Nationalen Forschungs­zentrums für angewandte Cyber­sicher­heit ATHENE und der Freien Universität Berlin in einer gemeinsamen Studie. Für das Forschungsprojekt werden noch Teilnehmerinnen und Teilnehmer gesucht, die beruflich oder privat mit Maschinellen Lernverfahren arbeiten.

Um eigene Arbeitsprozesse zu optimieren oder Kundinnen und Kunden mithilfe von Empfehlungssystemen neue Services anzubieten, setzen Unternehmen zunehmend auf Maschinelles Lernen und Künstliche Intelligenz. „Solche neuen Tools werden oft schnell konzipiert und umgesetzt. Sicherheitsaspekte kommen dabei oft zu kurz“, sagt die Statistikerin Verena Battis vom Fraunhofer SIT. Sie erforscht dort im Rahmen des ATHENE-Projekts „Privacy-Risks and Safety in Machine Learning (PRisMa)“, welche Bedrohungen von maschinellen Lernverfahren für die Privatheit des Einzelnen ausgehen. Bedrohungsszenarien sind der Statistikerin zufolge zum Beispiel Datenklau und die Manipulation von verwendeten Algorithmen und Daten. Besondere Vorsicht sei zudem bei datenschutzrechtlichen Aspekten geboten, erklärt die Informatikerin Franziska Boenisch vom Fraunhofer AISEC: „Für das Training von Modellen Maschinellen Lernens oder Künstlicher Intelligenz werden oft Nutzerdaten verwendet. Dabei fehlt jedoch das Wissen insbesondere darüber, wie individuelle Datenpunkte ein Modell beeinflussen und inwieweit diese Datenpunkte von Angreifern wieder aus einem trainierten Modell extrahiert werden können.“ Ziel des Forschungsprojekts ist es, Erkenntnisse darüber zu gewinnen, inwieweit Aspekte der Sicherheit und Privatsphäre bei Verfahren Maschinellen Lernens in der Praxis berücksichtigt und umgesetzt werden.

Es werden Teilnehmer*innen für eine 15-minütige Online-Befragung gesucht, die Maschinelles Lernen beruflich oder privat nutzen. Der Link zur Online-Befragung: https://websites.fraunhofer.de/ML_security/index.php/149369?Start1=A3   

Weitere In­for­ma­tio­nen unter

https://www.sit.fraunhofer.de/mlsurvey/ bzw. https://www.aisec.fraunhofer.de/de/presse-und-veranstaltungen/presse/pressemitteilungen/2020/sicheres-maschinelles-lernen.html

 

Presseinformation der FU Berlin

Zur News-Übersicht