Uber è stata multata di 963 milioni di dollari dai regolatori olandesi per aver utilizzato sistemi automatizzati per sospendere gli account dei conducenti senza revisione umana, in un caso che mette in luce la crescente attenzione normativa nei confronti dei processi decisionali algoritmici.

La sanzione riguarda la gestione degli account dei conducenti da parte di Uber tra il 2020 e il 2022. Secondo informazioni condivise su X e attribuite a Reuters, i regolatori olandesi hanno accertato che Uber ha consentito ai sistemi automatizzati di sospendere i conducenti sospettati di frode nonché quelli con valutazioni basse — potenzialmente privandoli della loro fonte di reddito senza un esame umano individuale.

Uber ha dichiarato che impugnerà la decisione.

I regolatori olandesi prendono di mira le decisioni automatizzate sugli account

Il caso verte sul modo in cui Uber ha utilizzato sistemi automatizzati per prendere decisioni che incidono sui conducenti della sua piattaforma.

Tra il 2020 e il 2022, i conducenti sospettati di attività fraudolenta o quelli che ricevevano valutazioni basse potevano vedere i propri account sospesi attraverso processi automatizzati. L'intervento dei regolatori ha messo in discussione la possibilità di adottare tali decisioni senza un adeguato coinvolgimento umano.

Per i conducenti che lavorano tramite piattaforme digitali, la sospensione dell'account può comportare conseguenze finanziarie dirette, poiché l'accesso alla piattaforma è strettamente legato alla loro capacità di generare reddito.

La decisione dei regolatori olandesi pone quindi particolare enfasi sul modo in cui i sistemi di decisione automatizzata vengono applicati alle persone e sul fatto che coloro che ne sono colpiti abbiano concrete opportunità di revisione umana. Questa enfasi è in linea con l'articolo 22 del GDPR, la disposizione che riconosce alle persone il diritto di non essere sottoposte a decisioni basate unicamente su trattamenti automatizzati che producono effetti giuridici o effetti analoghi di pari rilevanza, e che richiede tutele come la possibilità di ottenere l'intervento umano.

L'applicazione del GDPR nei Paesi Bassi spetta all'Autoriteit Persoonsgegevens, l'autorità olandese per la protezione dei dati, che indaga su potenziali violazioni delle norme europee sulla privacy e può comminare sanzioni.

Il caso è stato riportato in un post condiviso da @coinbureau su X, che cita Reuters.

La sanzione di 963 milioni di dollari è la seconda multa GDPR più alta

La sanzione di 963 milioni di dollari è descritta come la seconda multa GDPR mai comminata, preceduta solo dalla sanzione di 1,2 miliardi di dollari inflitta a Meta nel 2023, applicata dalla Data Protection Commission irlandese per i trasferimenti di dati degli utenti europei verso gli Stati Uniti.

Il Regolamento Generale sulla Protezione dei Dati, comunemente noto come GDPR, è il quadro completo di protezione dei dati dell'Unione Europea. Disciplina il modo in cui le organizzazioni raccolgono, trattano e proteggono i dati personali e include requisiti riguardanti i diritti delle persone colpite dalle decisioni di trattamento dei dati. In vigore da maggio 2018, consente ai regolatori di comminare multe fino a 20 milioni di euro o al 4 percento del fatturato annuo globale di un'azienda, a seconda di quale importo sia più elevato, per le violazioni più gravi.

L'entità della sanzione a Uber sottolinea le potenziali conseguenze finanziarie che le aziende possono affrontare quando i regolatori accertano che le loro pratiche di trattamento dei dati violano le norme europee sulla privacy.

La multa arriva inoltre in un contesto di più ampia vigilanza sui sistemi di decisione automatizzata utilizzati dalle aziende tecnologiche e dalle piattaforme digitali.

Le decisioni algoritmiche sotto maggiore scrutinio

La decisione automatizzata è diventata sempre più diffusa nei servizi digitali, dove le aziende utilizzano algoritmi per elaborare grandi volumi di informazioni e pervenire a decisioni più rapidamente rispetto ai sistemi manuali.

Per piattaforme come Uber, gli strumenti automatizzati possono essere utilizzati per identificare comportamenti potenzialmente fraudolenti, esaminare l'attività degli account e valutare altri fattori legati a utenti e conducenti.

Tuttavia, le decisioni che incidono sulle persone possono sollevare questioni normative quando gli algoritmi operano senza una supervisione umana significativa. I legislatori dell'UE hanno inoltre cominciato a disciplinare direttamente questo ambito: la direttiva sul lavoro tramite piattaforme, adottata nel 2024, stabilisce regole sulla gestione algoritmica per le piattaforme di lavoro digitali, affrontando il modo in cui i sistemi automatizzati monitorano e valutano le persone che svolgono lavori tramite piattaforma.

Nel caso di Uber, l'intervento dei regolatori olandesi si è concentrato specificamente sulle sospensioni automatizzate degli account dei conducenti. La preoccupazione era che i conducenti potessero perdere l'accesso alla piattaforma sulla base di decisioni algoritmiche, senza revisione umana.

La questione illustra una sfida più ampia per le aziende che si affidano a sistemi automatizzati: bilanciare l'efficienza operativa con i requisiti legali che disciplinano i diritti individuali e il trattamento dei dati.

Uber intende presentare ricorso

Uber ha dichiarato che impugnerà la multa.

Il ricorso offre all'azienda l'opportunità di contestare le conclusioni dei regolatori e l'entità della sanzione. L'esito determinerà se la multa di 963 milioni di dollari sarà in definitiva confermata, modificata o annullata. Nei Paesi Bassi, le contestazioni alle decisioni in materia di protezione dei dati sono in ultima analisi esaminate dai tribunali anziché dal regolatore stesso.

Il caso colloca Uber tra le aziende che affrontano sanzioni normative sostanziali per l'uso di dati personali e sistemi automatizzati. Il confronto con la sanzione GDPR di 1,2 miliardi di dollari comminata a Meta nel 2023 sottolinea la portata dell'intervento contro Uber. Se confermata, la sanzione di 963 milioni di dollari rimarrebbe una delle più pesanti mai applicate nell'ambito del quadro europeo sulla privacy.

Implicazioni per la decisione automatizzata

Il caso Uber evidenzia i rischi normativi legati all'uso di algoritmi per prendere decisioni che possono avere conseguenze significative per le persone. Per i conducenti, la sospensione dell'account può incidere direttamente sulla loro possibilità di accedere al lavoro tramite la piattaforma.

I regolatori hanno quindi esaminato non solo il modo in cui i sistemi automatizzati elaborano le informazioni, ma anche il modo in cui le aziende offrono tutele alle persone colpite da tali decisioni.

La controversia si sposta ora verso il processo di ricorso, mentre Uber contesta la decisione dei regolatori olandesi. Il caso potrebbe inoltre continuare ad attirare l'attenzione sul modo in cui le aziende impiegano sistemi automatizzati in ambiti che coinvolgono lavoro, reddito e accesso alle piattaforme digitali.

Per ora, la sanzione di 963 milioni di dollari dei regolatori olandesi rappresenta una delle più grandi multe GDPR mai registrate, mentre Uber sostiene che contesterà la decisione.

Fonte: Hokanews