Deutsche Datenstrategie zur Bekämpfung von Diskriminierung und zur Förderung des Wettbewerbs – EURACTIV.com

Die Bundesregierung wird sich im Rahmen einer Datenstrategie, die am Mittwoch (27. Januar) vorgestellt wird, mit dem Einsatz „diskriminanter“ Algorithmen in verschiedenen Sektoren befassen. EURACTIV Deutschland Berichte.

Der von EURACTIV erhaltene Text der neuen Strategie zielt auch darauf ab, die Datenschutzbestimmungen auf Bundesebene zu harmonisieren und die Sicherheit von IT-Systemen zu verbessern.

Um die voreingenommenen Algorithmen im ganzen Land einzugrenzen, will die Bundesregierung „prüfen, ob die Diskriminierung von Bürgern durch algorithmische Entscheidungen, beispielsweise in Antragsverfahren, oder durch die Gewährung von Darlehen bekämpft werden kann“, heißt es in dem Dokument.

Digitale Diskriminierung wurde im vergangenen Jahr auch in anderen Regionen Deutschlands diskutiert, beispielsweise die automatische Gesichtserkennung. Bundesinnenminister Horst Seehofer (CSU) wollte zu diesem Zweck zusätzliche intelligente Kameras an öffentlichen Orten installieren, doch die Zivilgesellschaft stieß auf heftigen Widerstand (EURACTIV berichtete), einschließlich Bedenken hinsichtlich der Diskriminierung von Frauen und Farbigen.

An anderer Stelle schrieb die Bundesregierung: „Diskriminierung aufgrund von Daten und damit vermuteten objektiven Entscheidungen ist real – insbesondere dann, wenn Modelle bestehende diskriminierende Aspekte aufrechterhalten.“

Algorithmen sind nicht neutral

Mit dem Ziel, „den innovativen und verantwortungsvollen Umgang mit Daten“ zu fördern, plant die Regierung beispielsweise, genauer zu untersuchen, wie Unternehmen ihre Angebote und Preise an ihre Kunden anpassen und welche Auswirkungen dies hat.

Wenn dasselbe Produkt zwei Personen unter verschiedenen Umständen angeboten wird (z. B. Versicherung), können die dahinter stehenden Algorithmen unterschiedliche Profile aus allen verfügbaren Daten erstellen.

Es kann auch bestehende soziale Ungleichheiten verschärfen, beispielsweise wenn Menschen mit bestimmten sozioökonomischen Hintergründen bei der Arbeitssuche benachteiligt sind, weil ein Algorithmus diesen Hintergrund mit geringen Beschäftigungsmöglichkeiten verknüpft und ihnen so den sozialen Aufstieg verweigert.

Die Regierung sagt, es gibt sehr wenig Informationen über diese Algorithmen; Tatsächlich fallen sie häufig unter das Geschäftsgeheimnis von Unternehmen.

In diesem Bereich sind weitere Forschungsarbeiten geplant, einschließlich sozialer und politischer Implikationen. Das Justizministerium wird auch prüfen, ob diese Diskriminierung rechtlich angegangen werden kann, indem beispielsweise strengere Anforderungen an die Trainingsdaten gestellt werden, auf deren Grundlage diese Algorithmen lernen.

Lob von der Geschäftswelt

Im Bereich Datenschutz will die Bundesregierung die föderalen Strukturen eng harmonisieren. Derzeit gibt es in Deutschland 17 Datenschutzbeauftragte, einen für jedes Bundesland sowie Bundesbeauftragten Ulrich Kelber (SPD).

Sie koordinieren untereinander, „aber die rechtlichen Auslegungen können unterschiedlich sein“, so die Regierung.

Gleiches gilt auf europäischer Ebene, wo „die unterschiedlichen Datenschutzverständnisse der verschiedenen Aufsichtsbehörden innerhalb der Europäischen Union […] Dies könnte auch Herausforderungen für die harmonisierte Anwendung des Rechts und für die Stärkung der europäischen Datenherrschaft schaffen. „“

Aus diesem Grund erwäge das Innenministerium derzeit Maßnahmen, um eine derart enge Zusammenarbeit zu ermöglichen.

Im Bereich der Gesundheitsforschung, für die ein wirksamer Datenaustausch unabdingbar ist, wurde hierfür eine eigene Hauptaufsichtsbehörde eingerichtet.

Dafür gibt es Lob von Öko, Deutscher Verband der Internetbranche.

„Die Koordinierung des aktuellen Patchworks des Bundes in Datenschutzfragen in Deutschland ist ein im Wesentlichen willkommenes Ziel der derzeit diskutierten Datenstrategie der Bundesregierung“, sagt eine Sprecherin des Verbandes.

„Die konsequente und einheitlichere Umsetzung des Datenschutzrechts unter Beibehaltung des aktuellen Datenschutzniveaus ist etwas, das wir als Umweltunternehmen seit langem fordern“, sagte sie.

Bekämpfe Datenmonopole

Der Link kritisiert jedoch die vorgeschlagene Verpflichtung der Unternehmen, nicht personenbezogene Daten weiterzugeben.

Insbesondere befürchtet die Bundesregierung, dass Unternehmen „ein großes wirtschaftliches Interesse daran haben, ausschließlich ihre eigenen Daten zu verwenden“. Dies würde Wettbewerbsvorteile bringen und sogar das Monopol stärken.

Daher wollen sie eine „Kultur des freiwilligen und verantwortungsvollen Datenaustauschs“ fördern und auch Verstöße gegen die Marktmacht besser erfassen. Dies ist auch das Ziel der jüngsten Änderung des Gesetzes gegen Wettbewerbsbeschränkungen (GWB) (EURACTIV berichtet).

Eine Umweltsprecherin sagte, wenn dies eine Voraussetzung für den Datenaustausch wird, muss die Regierung zunächst eingehend untersuchen, „inwieweit sich ein solches Engagement auf Innovation und Wettbewerb auswirkt“.

Hrsg. Von Samuel Stolton