Uber wurde von niederländischen Aufsichtsbehörden mit einer Strafe von 963 Millionen US-Dollar belegt, weil das Unternehmen automatisierte Systeme zur Sperrung von Fahrerkonten ohne menschliche Überprüfung eingesetzt hat – ein Fall, der die zunehmende regulatorische Kontrolle algorithmischer Entscheidungsfindung in den Fokus rückt.

Die Strafe betrifft Ubers Umgang mit Fahrerkonten zwischen 2020 und 2022. Laut Informationen, die auf X geteilt und Reuters zugeschrieben wurden, stellten die niederländischen Aufsichtsbehörden fest, dass Uber zuließ, dass automatisierte Systeme unter Betrugsverdacht stehende Fahrer sowie Fahrer mit niedrigen Bewertungen sperrten – womit ihnen möglicherweise ohne individuelle menschliche Überprüfung die Einkommensquelle abgeschnitten wurde.

Uber hat erklärt, gegen die Entscheidung Berufung einzulegen.

Niederländische Aufsichtsbehörden nehmen automatisierte Kontoentscheidungen ins Visier

Der Fall dreht sich darum, wie Uber automatisierte Systeme für Entscheidungen einsetzte, die Fahrer auf seiner Plattform betrafen.

Zwischen 2020 und 2022 konnten Konten von Fahrern, denen betrügerische Aktivitäten zur Last gelegt wurden oder die niedrige Bewertungen erhielten, durch automatisierte Prozesse gesperrt werden. Die regulatorische Maßnahme stellte infrage, ob solche Entscheidungen ohne ausreichende menschliche Beteiligung getroffen werden dürfen.

Für Fahrer, die über digitale Plattformen arbeiten, kann eine Kontosperrung unmittelbare finanzielle Folgen haben, da der Zugang zur Plattform eng mit ihrer Fähigkeit verbunden ist, Einkommen zu erzielen.

Die Entscheidung der niederländischen Aufsichtsbehörden legt daher besonderen Nachdruck darauf, wie automatisierte Entscheidungssysteme auf Einzelpersonen angewendet werden, und darauf, ob die Betroffenen echte Möglichkeiten zu einer menschlichen Überprüfung haben. Dieser Schwerpunkt deckt sich mit Artikel 22 der DSGVO, der Bestimmung, die Einzelpersonen das Recht gibt, nicht Entscheidungen unterworfen zu werden, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche oder vergleichbar schwerwiegende Wirkungen entfalten, und die Schutzmaßnahmen wie die Möglichkeit menschlichen Eingreifens vorsieht.

Die Durchsetzung der DSGVO obliegt in den Niederlanden der Autoriteit Persoonsgegevens, der niederländischen Datenschutzbehörde, die mögliche Verstöße gegen die europäischen Datenschutzvorschriften untersucht und Sanktionen verhängen kann.

Der Fall wurde in einem Beitrag gemeldet, den @coinbureau auf X teilte, unter Berufung auf Reuters.

Strafe von 963 Millionen US-Dollar wird zur zweithöchsten DSGVO-Strafe

Die Strafe von 963 Millionen US-Dollar wird als zweithöchste jemals verhängte DSGVO-Strafe beschrieben; sie rangiert nur hinter Metas Strafe von 1,2 Milliarden US-Dollar aus dem Jahr 2023, die die irische Datenschutzkommission wegen der Übermittlung europäischer Nutzerdaten in die Vereinigten Staaten verhängt hatte.

Die Datenschutz-Grundverordnung, allgemein als DSGVO bekannt, ist der umfassende Datenschutzrahmen der Europäischen Union. Sie regelt, wie Organisationen personenbezogene Daten erheben, verarbeiten und schützen, und enthält Anforderungen zum Schutz der Rechte von Personen, die von Datenverarbeitungsentscheidungen betroffen sind. Seit ihrem Inkrafttreten im Mai 2018 ermöglicht sie Aufsichtsbehörden, für die schwerwiegendsten Verstöße Geldstrafen von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes eines Unternehmens zu verhängen – je nachdem, welcher Betrag höher ist.

Das Ausmaß der Strafe gegen Uber unterstreicht die potenziellen finanziellen Folgen, denen Unternehmen gegenüberstehen können, wenn Aufsichtsbehörden feststellen, dass ihre Datenschutzpraktiken gegen die europäischen Datenschutzregeln verstoßen.

Die Geldstrafe fällt zudem in eine Zeit verstärkter Prüfung automatisierter Entscheidungssysteme, die von Technologieunternehmen und digitalen Plattformen eingesetzt werden.

Algorithmische Entscheidungen stehen unter verstärkter Beobachtung

Automatisierte Entscheidungsfindung ist in digitalen Diensten zunehmend verbreitet; Unternehmen setzen Algorithmen ein, um große Informationsmengen zu verarbeiten und schneller als manuelle Systeme zu Entscheidungen zu gelangen.

Bei Plattformen wie Uber können automatisierte Tools eingesetzt werden, um potenziell betrügerisches Verhalten zu erkennen, die Kontoaktivität zu bewerten und weitere Faktoren im Zusammenhang mit Nutzern und Fahrern einzuschätzen.

Entscheidungen, die Einzelpersonen betreffen, können jedoch regulatorische Fragen aufwerfen, wenn Algorithmen ohne wirksame menschliche Aufsicht arbeiten. Die EU-Gesetzgeber haben diesen Bereich auch unmittelbar reguliert: Die 2024 verabschiedete Richtlinie über Plattformarbeit legt Regeln für das algorithmische Management digitaler Arbeitsplattformen fest und behandelt, wie automatisierte Systeme Personen überwachen und bewerten, die Plattformarbeit ausführen.

Im Fall Uber richtete sich das Vorgehen der niederländischen Aufsichtsbehörden gezielt auf automatisierte Kontosperrungen von Fahrern. Die Sorge bestand darin, dass Fahrern auf Grundlage algorithmischer Entscheidungen ohne menschliche Überprüfung der Zugang zur Plattform entzogen werden konnte.

Die Frage verdeutlicht eine breitere Herausforderung für Unternehmen, die auf automatisierte Systeme setzen: die Abwägung zwischen operativer Effizienz und den rechtlichen Anforderungen zum Schutz der Rechte des Einzelnen und zur Datenverarbeitung.

Uber plant Berufung

Uber hat erklärt, gegen die Geldstrafe Berufung einzulegen.

Die Berufung gibt dem Unternehmen die Gelegenheit, die Feststellungen der Aufsichtsbehörden und die Höhe der Strafe anzufechten. Der Ausgang wird bestimmen, ob die Strafe von 963 Millionen US-Dollar letztlich aufrechterhalten, geändert oder aufgehoben wird. In den Niederlanden werden Anfechtungen von Datenschutzentscheidungen am Ende von den Gerichten überprüft und nicht von der Aufsichtsbehörde selbst.

Der Fall reiht Uber unter die Unternehmen ein, die wegen ihrer Nutzung personenbezogener Daten und automatisierter Systeme mit erheblichen regulatorischen Strafen konfrontiert sind. Der Vergleich mit Metas DSGVO-Strafe von 1,2 Milliarden US-Dollar aus dem Jahr 2023 unterstreicht das Ausmaß des Vorgehens gegen Uber. Sollte sie bestätigt werden, würde die Strafe von 963 Millionen US-Dollar als eine der größten Sanktionen im Rahmen des europäischen Datenschutzrahmens bestehen bleiben.

Auswirkungen auf die automatisierte Entscheidungsfindung

Der Fall Uber verdeutlicht die regulatorischen Risiken des Einsatzes von Algorithmen für Entscheidungen, die erhebliche Folgen für Einzelpersonen haben können. Für Fahrer kann eine Kontosperrung ihre Möglichkeit, über die Plattform Arbeit zu erhalten, unmittelbar einschränken.

Die Aufsichtsbehörden haben daher nicht nur untersucht, wie automatisierte Systeme Informationen verarbeiten, sondern auch, wie Unternehmen Schutzmaßnahmen für die von diesen Entscheidungen betroffenen Menschen bereitstellen.

Der Streit geht nun in das Berufungsverfahren über, während Uber die Entscheidung der niederländischen Aufsichtsbehörden anficht. Der Fall könnte auch künftig Aufmerksamkeit darauf lenken, wie Unternehmen automatisierte Systeme in Bereichen einsetzen, die Beschäftigung, Einkommen und den Zugang zu digitalen Plattformen betreffen.

Vorerst stellt die Strafe der niederländischen Aufsichtsbehörden über 963 Millionen US-Dollar eine der größten DSGVO-Strafen der Geschichte dar, während Uber daran festhält, die Entscheidung anzufechten.

Quelle: Hokanews