Uber ha sido multada con $963 millones por los reguladores neerlandeses por su uso de sistemas automatizados para suspender cuentas de conductores sin revisión humana, en un caso que evidencia el creciente escrutinio regulatorio de la toma de decisiones algorítmica.

La sanción abarca la gestión que Uber hizo de las cuentas de conductores entre 2020 y 2022. Según información compartida en X y atribuida a Reuters, los reguladores neerlandeses determinaron que Uber permitió que sistemas automatizados suspendieran a conductores sospechosos de fraude, así como a aquellos con bajas calificaciones, con el potencial de cortarles su fuente de ingresos sin una revisión humana individual.

Uber ha declarado que apelará la decisión.

Los reguladores neerlandeses apuntan a las decisiones automatizadas sobre cuentas

El caso se centra en cómo Uber utilizó sistemas automatizados para tomar decisiones que afectan a los conductores en su plataforma.

Entre 2020 y 2022, los conductores sospechosos de actividad fraudulenta o aquellos que recibían bajas calificaciones podían ver sus cuentas suspendidas mediante procesos automatizados. La acción regulatoria cuestionó si tales decisiones podían tomarse sin una participación humana adecuada.

Para los conductores que trabajan a través de plataformas digitales, la suspensión de una cuenta puede acarrear consecuencias financieras directas, porque el acceso a la plataforma está estrechamente ligado a su capacidad de generar ingresos.

La decisión de los reguladores neerlandeses pone por ello un énfasis particular en cómo se aplican los sistemas de toma de decisiones automatizada a los individuos, y en si las personas afectadas por esas decisiones tienen oportunidades reales de revisión humana. Ese énfasis se alinea con el artículo 22 del RGPD, la disposición que otorga a los individuos el derecho a no ser objeto de decisiones basadas únicamente en procesamiento automatizado que produzcan efectos jurídicos o de similar importancia, y que exige salvaguardas como la posibilidad de obtener intervención humana.

La aplicación del RGPD en los Países Bajos corresponde a la Autoriteit Persoonsgegevens, la autoridad neerlandesa de protección de datos, que investiga posibles violaciones de las normas europeas de privacidad y puede imponer sanciones.

El caso fue reportado en una publicación compartida por @coinbureau en X, citando a Reuters.

La multa de $963 millones se convierte en la segunda mayor sanción del RGPD

La multa de $963 millones es descrita como la segunda mayor sanción del RGPD jamás impuesta, solo superada por la de $1,200 millones que Meta recibió en 2023, aplicada por la Comisión de Protección de Datos de Irlanda por las transferencias de datos de usuarios europeos a Estados Unidos.

El Reglamento General de Protección de Datos, conocido comúnmente como RGPD (GDPR), es el marco integral de protección de datos de la Unión Europea. Regula cómo las organizaciones recopilan, procesan y protegen los datos personales, e incluye requisitos sobre los derechos de las personas afectadas por decisiones de procesamiento de datos. En vigor desde mayo de 2018, permite a los reguladores imponer multas de hasta 20 millones de euros o el 4 por ciento de la facturación anual global de una empresa, la que sea mayor, por las infracciones más graves.

La escala de la multa a Uber subraya las posibles consecuencias financieras que las empresas pueden enfrentar cuando los reguladores determinan que sus prácticas de procesamiento de datos violan las normas europeas de privacidad.

La multa también llega en medio de un escrutinio más amplio de los sistemas de toma de decisiones automatizada utilizados por empresas tecnológicas y plataformas digitales.

Las decisiones algorítmicas enfrentan un mayor escrutinio

La toma de decisiones automatizada se ha vuelto cada vez más común en los servicios digitales, donde las empresas usan algoritmos para procesar grandes volúmenes de información y llegar a decisiones más rápido que los sistemas manuales.

Para plataformas como Uber, las herramientas automatizadas pueden usarse para identificar comportamientos potencialmente fraudulentos, evaluar la actividad de las cuentas y valorar otros factores asociados con usuarios y conductores.

Sin embargo, las decisiones que afectan a individuos pueden plantear cuestiones regulatorias cuando los algoritmos operan sin una supervisión humana significativa. Los legisladores de la UE también han pasado a regular este terreno de manera directa: la Directiva de Trabajo en Plataformas, adoptada en 2024, establece normas sobre la gestión algorítmica para las plataformas de trabajo digital, abordando cómo los sistemas automatizados monitorean y evalúan a las personas que realizan trabajo en plataformas.

En el caso de Uber, la acción de los reguladores neerlandeses se centró específicamente en las suspensiones automatizadas de cuentas de conductores. La preocupación era que los conductores pudieran perder el acceso a la plataforma con base en decisiones algorítmicas, sin revisión humana.

El tema ilustra un desafío más amplio que enfrentan las empresas que dependen de sistemas automatizados: equilibrar la eficiencia operativa con los requisitos legales que rigen los derechos individuales y el procesamiento de datos.

Uber planea apelar

Uber ha dicho que apelará la multa.

La apelación brinda a la empresa la oportunidad de impugnar las conclusiones de los reguladores y el monto de la sanción. El resultado determinará si la multa de $963 millones finalmente se mantiene, se modifica o se anula. En los Países Bajos, los desafíos a las decisiones de protección de datos son revisados en última instancia por los tribunales y no por el propio regulador.

El caso ubica a Uber entre las empresas que enfrentan sanciones regulatorias sustanciales por su uso de datos personales y sistemas automatizados. La comparación con la multa de $1,200 millones del RGPD impuesta a Meta en 2023 subraya la escala de la acción contra Uber. Si se mantiene, la sanción de $963 millones figuraría como una de las mayores impuestas bajo el marco europeo de privacidad.

Implicaciones para la toma de decisiones automatizada

El caso de Uber destaca los riesgos regulatorios de usar algoritmos para tomar decisiones que pueden tener consecuencias significativas para los individuos. Para los conductores, la suspensión de una cuenta puede afectar directamente su capacidad de acceder a trabajo a través de la plataforma.

Los reguladores han examinado, por lo tanto, no solo cómo los sistemas automatizados procesan la información, sino también cómo las empresas proporcionan salvaguardas a las personas afectadas por esas decisiones.

La disputa avanza ahora hacia el proceso de apelación mientras Uber impugna la decisión de los reguladores neerlandeses. El caso también podría seguir atrayendo atención sobre cómo las empresas despliegan sistemas automatizados en áreas que involucran empleo, ingresos y acceso a plataformas digitales.

Por ahora, la multa de $963 millones de los reguladores neerlandeses representa una de las sanciones del RGPD más grandes registradas, mientras Uber mantiene que impugnará la decisión.

Fuente: Hokanews