Uber został ukarany przez holenderskich regulatorów karą w wysokości 963 mln dolarów za stosowanie zautomatyzowanych systemów do zawieszania kont kierowców bez ludzkiej weryfikacji — w sprawie, która uwypukla rosnący nadzór regulacyjny nad algorytmicznym podejmowaniem decyzji.

Kara obejmuje postępowanie Ubera wobec kont kierowców w latach 2020–2022. Zgodnie z informacjami udostępnionymi w serwisie X i przypisywanymi agencji Reuters, holenderscy regulatorzy ustalili, że Uber dopuszczał do zawieszania przez zautomatyzowane systemy kierowców podejrzewanych o oszustwa oraz tych z niskimi ocenami — co potencjalnie pozbawiało ich źródła dochodu bez indywidualnej, ludzkiej weryfikacji.

Uber oświadczył, że odwoła się od tej decyzji.

Holenderscy regulatorzy celują w zautomatyzowane decyzje dotyczące kont

Sprawa dotyczy sposobu, w jaki Uber wykorzystywał zautomatyzowane systemy do podejmowania decyzji wpływających na kierowców korzystających z jego platformy.

W latach 2020–2022 konta kierowców podejrzewanych o działania oszukańcze lub otrzymujących niskie oceny mogły być zawieszane w drodze zautomatyzowanych procesów. Działanie regulacyjne podważyło zasadność podejmowania takich decyzji bez odpowiedniego udziału człowieka.

Dla kierowców pracujących poprzez platformy cyfrowe zawieszenie konta może mieć bezpośrednie konsekwencje finansowe, ponieważ dostęp do platformy jest ściśle powiązany z ich możliwością zarabiania.

Decyzja holenderskich regulatorów kładzie więc szczególny nacisk na sposób stosowania systemów zautomatyzowanego podejmowania decyzji wobec jednostek oraz na to, czy osoby dotknięte tymi decyzjami mają realne możliwości uzyskania ludzkiej weryfikacji. Nacisk ten jest zgodny z art. 22 RODO — przepisem, który przyznaje osobom prawo do nepodlegania decyzjom opartym wyłącznie na zautomatyzowanym przetwarzaniu, wywierającym skutki prawne lub podobnie istotne, i przewiduje zabezpieczenia takie jak możliwość uzyskania interwencji człowieka.

Egzekwowanie RODO w Holandii należy do Autoriteit Persoonsgegevens, holenderskiego organu ochrony danych, który bada potencjalne naruszenia europejskich przepisów o prywatności i może nakładać kary.

O sprawie poinformowano w wpisie udostępnionym przez @coinbureau w serwisie X, powołując się na Reuters.

Kara 963 mln dolarów drugą największą karą RODO w historii

Karę w wysokości 963 mln dolarów opisuje się jako drugą największą karę RODO, jaka kiedykolwiek została nałożona — wyższa była jedynie kara 1,2 mld dolarów nałożona na Metę w 2023 roku, którą irlandzka komisja ochrony danych wymierzyła za transfery danych europejskich użytkowników do Stanów Zjednoczonych.

Ogólne rozporządzenie o ochronie danych, powszechnie znane jako RODO, to kompleksowe ramy ochrony danych Unii Europejskiej. Reguluje sposób, w jaki organizacje gromadzą, przetwarzają i chronią dane osobowe, i zawiera wymagania dotyczące praw osób dotkniętych decyzjami związanymi z przetwarzaniem danych. Obowiązuje od maja 2018 roku i pozwala regulatorom nakładać za najpoważniejsze naruszenia kary do 20 mln euro lub 4 procent światowego rocznego obrotu firmy — w zależności od tego, która kwota jest wyższa.

Skala kary nałożonej na Ubera pokazuje potencjalne konsekwencje finansowe, którym mogą stawić czoła firmy, gdy regulatorzy uznają, że ich praktyki przetwarzania danych naruszają europejskie zasady prywatności.

Kara pojawia się także w okresie szerszej kontroli systemów zautomatyzowanego podejmowania decyzji stosowanych przez firmy technologiczne i platformy cyfrowe.

Decyzje algorytmiczne pod większą kontrolą

Zautomatyzowane podejmowanie decyzji staje się coraz bardziej powszechne w usługach cyfrowych, gdzie firmy wykorzystują algorytmy do przetwarzania dużych ilości informacji i szybszego niż systemy ręczne podejmowania decyzji.

W przypadku platform takich jak Uber zautomatyzowane narzędzia mogą służyć do identyfikowania potencjalnie oszukańczych zachowań, oceny aktywności kont i analizy innych czynników związanych z użytkownikami i kierowcami.

Decyzje dotyczące jednostek mogą jednak rodzić pytania regulacyjne, gdy algorytmy działają bez rzeczywistego nadzoru człowieka. Ustawodawcy UE podjęli również działania w celu bezpośredniego uregulowania tego obszaru: przyjęta w 2024 roku dyrektywa o pracy platformowej ustanawia zasady zarządzania algorytmicznego w cyfrowych platformach pracy, odnosząc się do tego, jak zautomatyzowane systemy monitorują i oceniają osoby wykonujące pracę platformową.

W przypadku Ubera działanie holenderskich regulatorów koncentrowało się konkretnie na zautomatyzowanych zawieszeniach kont kierowców. Obawiano się, że kierowcy mogą utracić dostęp do platformy w wyniku decyzji algorytmicznych, bez ludzkiej weryfikacji.

Problem ilustruje szersze wyzwanie stojące przed firmami opierającymi się na zautomatyzowanych systemach: równoważenie efektywności operacyjnej z wymogami prawnymi dotyczącymi praw jednostek i przetwarzania danych.

Uber zamierza się odwołać

Uber oświadczył, że odwoła się od kary.

Odwołanie daje firmie możliwość zakwestionowania ustaleń regulatorów oraz wysokości kary. Jego wynik rozstrzygnie, czy kara 963 mln dolarów zostanie ostatecznie utrzymana, zmodyfikowana czy uchylona. W Holandii odwołania od decyzji z zakresu ochrony danych ostatecznie rozpatrują sądy, a nie sam regulator.

Sprawa plasuje Ubera w gronie firm, których dotknęły poważne kary regulacyjne związane z wykorzystaniem danych osobowych i systemów zautomatyzowanych. Porównanie z karą RODO w wysokości 1,2 mld dolarów nałożoną na Metę w 2023 roku podkreśla skalę działań podjętych wobec Ubera. W razie utrzymania w mocy kara 963 mln dolarów pozostanie jedną z największych sankcji nałożonych na podstawie europejskich ram ochrony prywatności.

Implikacje dla zautomatyzowanego podejmowania decyzji

Sprawa Ubera uwypukla ryzyka regulacyjne związane ze stosowaniem algorytmów do podejmowania decyzji mogących mieć istotne konsekwencje dla jednostek. Dla kierowców zawieszenie konta może bezpośrednio wpłynąć na możliwość uzyskiwania pracy poprzez platformę.

Regulatorzy badali zatem nie tylko to, jak zautomatyzowane systemy przetwarzają informacje, ale również to, jak firmy zapewniają zabezpieczenia osobom dotkniętym tymi decyzjami.

Spór przechodzi teraz do etapu postępowania odwoławczego, w którym Uber kwestionuje decyzję holenderskich regulatorów. Sprawa może również przyciągać dalszą uwagę do sposobu, w jaki firmy wdrażają zautomatyzowane systemy w obszarach związanych z zatrudnieniem, dochodami i dostępem do platform cyfrowych.

Na ten moment kara holenderskich regulatorów w wysokości 963 mln dolarów jest jedną z największych kar RODO w historii, a Uber podtrzymuje, że będzie kwestionował tę decyzję.

Źródło: Hokanews