Uber heeft van Nederlandse toezichthouders een boete van 963 miljoen dollar gekregen voor het gebruik van geautomatiseerde systemen om chauffeursaccounts te schorsen zonder menselijke beoordeling, in een zaak die de groeiende toezichthoudende aandacht voor algoritmische besluitvorming blootlegt.

De boete betreft de wijze waarop Uber tussen 2020 en 2022 omging met chauffeursaccounts. Volgens informatie die op X werd gedeeld en aan Reuters wordt toegeschreven, stelden de Nederlandse toezichthouders vast dat Uber geautomatiseerde systemen chauffeurs kon laten schorsen die van fraude werden verdacht, evenals chauffeurs met lage beoordelingen — waardoor zij mogelijk werden afgesneden van hun inkomstenbron zonder een individuele menselijke beoordeling.

Uber heeft laten weten tegen de beslissing in beroep te zullen gaan.

Nederlandse toezichthouders richten zich op geautomatiseerde accountbeslissingen

De zaak draait om de vraag hoe Uber geautomatiseerde systemen inzette om beslissingen te nemen die gevolgen hadden voor chauffeurs op zijn platform.

Tussen 2020 en 2022 konden accounts van chauffeurs die van frauduleuze activiteiten werden verdacht of lage beoordelingen kregen, via geautomatiseerde processen worden geschorst. Met de handhaving werd de vraag opgeroepen of dergelijke beslissingen zonder voldoende menselijke betrokkenheid genomen konden worden.

Voor chauffeurs die via digitale platforms werken, kan een accountschorsing directe financiële gevolgen hebben, omdat de toegang tot het platform nauw verbonden is met hun mogelijkheid om inkomen te verwerven.

De beslissing van de Nederlandse toezichthouders legt daarom bijzondere nadruk op de manier waarop systemen voor geautomatiseerde besluitvorming op individuen worden toegepast, en op de vraag of mensen die door dergelijke beslissingen worden getroffen daadwerkelijk mogelijkheden hebben voor menselijke herbeoordeling. Die nadruk sluit aan bij artikel 22 van de GDPR, de bepaling die individuen het recht geeft niet onderworpen te worden aan beslissingen die uitsluitend op geautomatiseerde verwerking berusten en juridische of vergelijkbaar verstrekkende gevolgen hebben, en die waarborgen voorschrijft zoals de mogelijkheid om menselijke tussenkomst te verkrijgen.

De handhaving van de GDPR is in Nederland de taak van de Autoriteit Persoonsgegevens, de Nederlandse toezichthouder voor gegevensbescherming, die mogelijke schendingen van de Europese privacyregels onderzoekt en boetes kan opleggen.

Over de zaak werd bericht in een bericht dat werd gedeeld door @coinbureau op X, onder verwijzing naar Reuters.

Boete van 963 miljoen dollar is de op een na grootste GDPR-boete

De boete van 963 miljoen dollar wordt omschreven als de op een na grootste GDPR-boete ooit opgelegd, na alleen de boete van 1,2 miljard dollar voor Meta uit 2023, die de Ierse Data Protection Commission oplegde wegens de overdracht van Europese gebruikersgegevens naar de Verenigde Staten.

De Algemene verordening gegevensbescherming, beter bekend als de GDPR (in Nederland ook aangeduid als AVG), is het uitgebreide gegevensbeschermingskader van de Europese Unie. Het regelt hoe organisaties persoonsgegevens verzamelen, verwerken en beschermen, en omvat vereisten rond de rechten van individuen die door verwerkingsbeslissingen worden getroffen. Sinds mei 2018 van kracht, stelt het toezichthouders in staat voor de ernstigste overtredingen boetes op te leggen tot 20 miljoen euro of 4 procent van de wereldwijde jaaromzet van een bedrijf, afhankelijk van welk bedrag hoger is.

De omvang van de Uber-boete onderstreept de mogelijke financiële gevolgen waarmee bedrijven te maken kunnen krijgen wanneer toezichthouders oordelen dat hun praktijken op het gebied van gegevensverwerking in strijd zijn met de Europese privacyregels.

De boete komt daarnaast in een periode van bredere controle op systemen voor geautomatiseerde besluitvorming die door technologiebedrijven en digitale platforms worden gebruikt.

Algoritmische beslissingen onderhevig aan strenger toezicht

Geautomatiseerde besluitvorming is bij digitale diensten steeds gebruikelijker geworden, waarbij bedrijven algoritmes gebruiken om grote hoeveelheden informatie te verwerken en sneller tot beslissingen te komen dan met handmatige systemen.

Voor platforms zoals Uber kunnen geautomatiseerde tools worden ingezet om mogelijk frauduleus gedrag te herkennen, accountactiviteit te evalueren en andere factoren in verband met gebruikers en chauffeurs te beoordelen.

Beslissingen die individuen raken kunnen echter regelgevende vragen oproepen wanneer algoritmes zonder daadwerkelijk menselijk toezicht werken. Europese wetgevers zijn dit terrein ook rechtstreeks gaan regelen: de in 2024 aangenomen Platformrichtlijn (Platform Work Directive) stelt regels vast over algoritmisch management voor digitale arbeidsplatforms, over de wijze waarop geautomatiseerde systemen mensen die platformwerk verrichten monitoren en evalueren.

In het geval van Uber richtte de actie van de Nederlandse toezichthouders zich specifiek op geautomatiseerde accountschorsingen van chauffeurs. De zorg was dat chauffeurs op basis van algoritmische beslissingen de toegang tot het platform konden verliezen, zonder menselijke beoordeling.

De kwestie illustreert een bredere uitdaging voor bedrijven die op geautomatiseerde systemen vertrouwen: het in evenwicht brengen van operationele efficiëntie met juridische vereisten rond individuele rechten en gegevensverwerking.

Uber gaat in beroep

Uber heeft laten weten tegen de boete in beroep te gaan.

Het beroep geeft het bedrijf de gelegenheid de bevindingen van de toezichthouders en de hoogte van de boete aan te vechten. De uitkomst bepaalt of de boete van 963 miljoen dollar uiteindelijk wordt gehandhaafd, aangepast of terzijde geschoven. In Nederland worden bezwaren tegen beslissingen op het gebied van gegevensbescherming uiteindelijk door de rechter beoordeeld en niet door de toezichthouder zelf.

De zaak plaatst Uber in het rijtje bedrijven die te maken krijgen met aanzienlijke boetes wegens hun gebruik van persoonsgegevens en geautomatiseerde systemen. De vergelijking met de GDPR-boete van 1,2 miljard dollar voor Meta in 2023 onderstreept de omvang van de actie tegen Uber. Indien gehandhaafd, zou de boete van 963 miljoen dollar uitgroeien tot een van de grootste sancties die onder het Europese privacykader zijn opgelegd.

Implicaties voor geautomatiseerde besluitvorming

De zaak-Uber benadrukt de regelgevende risico's van het gebruik van algoritmes voor beslissingen die grote gevolgen kunnen hebben voor individuen. Voor chauffeurs kan een accountschorsing direct van invloed zijn op hun mogelijkheid om via het platform aan werk te komen.

Toezichthouders hebben daarom niet alleen onderzocht hoe geautomatiseerde systemen informatie verwerken, maar ook hoe bedrijven waarborgen bieden voor de mensen die door die beslissingen worden getroffen.

Het geschil beweegt zich nu in de richting van de beroepsprocedure nu Uber de beslissing van de Nederlandse toezichthouders aanvecht. De zaak kan ook blijvend de aandacht vestigen op de manier waarop bedrijven geautomatiseerde systemen inzetten op gebieden die werk, inkomen en toegang tot digitale platforms raken.

Vooralsnog vertegenwoordigt de boete van 963 miljoen dollar van de Nederlandse toezichthouders een van de grootste GDPR-boeten ooit, terwijl Uber volhoudt de beslissing te zullen bestrijden.

Bron: Hokanews