TOPML – Trading off Non-Functional Properties of Machine learning

Wie dezentral sollen Daten gespeichert werden, um die Privatsphäre zu schützen und inwieweit wird dadurch die Transparenz von Daten und Algorithmen beeinflusst? Diese Zielkonflikte werden in einem Forschungszentrum für Machine Learning analysiert.

Ziel des Projekts ist die Einrichtung eines interdisziplinären Forschungszentrums für Machine Learning an der Universität Mainz. Hier sollen Wechselwirkungen und Abhängigkeiten von verschiedenen Eigenschaften des Maschinellen Lernens analysiert und abgewogen werden. Untersucht werden Transparenz und Fairness von Daten und Algorithmen sowie Datenschutz und eine effiziente Nutzung von Ressourcen wie beispielsweise Strom. Im Fokus stehen dabei konkurrierende Bedürfnisse, beispielsweise wie dezentral können Daten gespeichert und verarbeitet werden, um die Privatsphäre zu schützen, inwieweit wird dadurch die Transparenz von Algorithmen und Daten beeinflusst und welche Auswirkungen hat das auf den Energieverbrauch? Die verschiedenen Zielkonflikte werden identifiziert und charakterisiert, um tragfähige Kompromisse für die Anwendung zu schaffen. Ethische und rechtliche Aspekte sollen mitgedacht werden.

Das Forschungsprojekt ist für 6 Jahre angelegt und wird durch die Carl-Zeiss-Stiftung im Rahmen des Förderprogramms "Durchbrüche" gefördert.

Eine weitere wichtige Maßnahme ist die Einrichtung einer Tenure-Track-Stiftungsprofessur auf dem Gebiet der vertrauenswürdigen KI.

Ein wichtiges Element in der Kommunikation innerhalb der Johannes Gutenberg-Universität, aber auch mit der Hochschule Mainz, mit externen Forschungsinstitutionen und der regionalen Wirtschaft sind regelmäßige Workshops, die gegen Ende eines jeden Projektjahrs durchgeführt werden sollen und die Entwicklung und Implementierung von vertrauenswürdigen KI-Methoden in Mainz vermitteln sollen.

English Version

How decentralized should data be stored to protect privacy? To what extent does this affect the transparency of data and algorithms? These conflicting goals will be analyzed in a research center for machine learning.

The goal of the project is to establish an interdisciplinary research center for Machine Learning at the University of Mainz. Here, interactions and dependencies of different properties of Machine Learning will be studied. The research topics which will be investigated include transparency and fairness of data and algorithms, as well as data protection requirements and efficient use of resources such as electricity. A strong focus will be given to their competing needs. As an example, how decentralized can data be stored and processed to protect privacy? To what extent does decentralization affect the transparency of algorithms and data? What impact does this have on energy consumption? These various trade-offs will be identified and characterized to create workable trade-offs. Ethical and legal aspects will be considered.

The research project is scheduled for 6 years and is funded by the Carl Zeiss Foundation.

As part of the project, a tenure-track endowed professorship in the field of trustworthy AI will be established.

An important element in the project is communication within the Johannes Gutenberg University, but also with the University of Applied Sciences Mainz, with external research institutions and the regional economy. To foster collaboration, regular workshops will be held towards the end of each project year. The workshops will focus on advancing the development and implementation of trustworthy AI methods in Mainz.