オランダの規制当局は、人間によるレビューなしにドライバーアカウントを停止させる自動化システムの使用をめぐり、Uberに9億6,300万ドルの制裁金を科した。この事案は、アルゴリズムによる意思決定に対する規制当局の監視が強まっていることを浮き彫りにしている。

制裁金の対象は、2020年から2022年までのUberによるドライバーアカウントの取り扱いである。X上で共有されロイター通信に帰せられる情報によると、オランダの規制当局は、Uberが不正の疑いのあるドライバーや評価の低いドライバーのアカウントを自動化システムによって停止することを認めていたと判断した。これにより、個別の人間によるレビューなしに、ドライバーが収入源を絶たれる可能性があったという。

Uberはこの決定に対して不服申立てを行う方針を明らかにしている。

オランダ規制当局、アカウントの自動判断に照準

この事案の焦点は、Uberが自社プラットフォーム上のドライバーに影響を及ぼす意思決定に自動化システムをどのように使用していたかである。

2020年から2022年の間、不正行為の疑いが持たれたドライバーや低い評価を受けたドライバーは、自動化されたプロセスによってアカウントを停止される可能性があった。規制当局の処分は、こうした意思決定が十分な人間の関与なしに行われてよいのかを問うものだった。

デジタルプラットフォームを通じて働くドライバーにとって、アカウントの停止は直接的な経済的影響をもたらしうる。プラットフォームへのアクセスが収入を得る能力と密接に結び付いているためだ。

したがって、オランダ規制当局の決定は、自動意思決定システムが個人に対してどのように適用されるのか、またそうした意思決定の影響を受ける人々が人間によるレビューを受ける実質的な機会を保障されているかどうかに特に重点を置いている。この重点はGDPR第22条と一致する。同条は、法的効果またはそれに類する重大な影響を及ぼす、自動処理のみに基づく意思決定の対象とならない個人の権利を定め、人間の介入を求めるなどの安全策を求めている。

オランダにおけるGDPRの執行は、オランダのデータ保護当局であるAutoriteit Persoonsgegevens（個人データ当局）が担っており、同局は欧州のプライバシー規則に対する潜在的な違反を調査し、制裁金を科すことができる。

この事案は、ロイター通信を引用した @coinbureau on X の投稿で報じられた。

9億6,300万ドルの制裁金、史上2番目の規模のGDPR制裁に

9億6,300万ドルの制裁金は、これまでに科されたGDPR制裁金としては史上2番目の規模とされており、2023年にMetaに科された12億ドルの制裁金に次ぐ。Metaへの制裁金は、欧州のユーザーデータの米国への移転をめぐり、アイルランドのデータ保護委員会が科したものである。

一般データ保護規則、通称GDPRは、欧州連合（EU）の包括的なデータ保護の枠組みである。組織が個人データをどのように収集、処理、保護するかを定め、データ処理に関する意思決定の影響を受ける個人の権利に関する要件を含む。2018年5月から施行されており、最も重大な違反に対しては、企業の全世界年間売上高の4％または2,000万ユーロのいずれか高い方までの制裁金を規制当局が科すことを認めている。

Uberへの制裁金の規模は、規制当局がデータ処理の実務を欧州のプライバシー規則への違反と判断した場合に企業が直面しうる経済的影響の大きさを裏付けている。

この制裁金は、テクノロジー企業やデジタルプラットフォームが使用する自動意思決定システムに対する監視が広がる中で下されたものでもある。

アルゴリズムによる意思決定、監視の強化へ

自動意思決定はデジタルサービス全体でますます一般的になっており、企業はアルゴリズムを使って大量の情報を処理し、手作業のシステムよりも速く意思決定に到達している。

Uberのようなプラットフォームでは、自動化ツールは不正行為の可能性の特定、アカウント活動の評価、ユーザーやドライバーに関連するその他の要素の査定に使用されうる。

ただし、アルゴリズムが実質的な人間の監督なしに動作する場合、個人に影響を及ぼす意思決定は規制上の疑問を提起しうる。EUの立法者もこの領域を直接規制する動きを見せており、2024年に採択されたプラットフォーム労働指令は、デジタル労働プラットフォームにおけるアルゴリズム管理に関する規則を定め、自動化システムがプラットフォーム労働に従事する人々をどのように監視・評価するかに対応している。

Uberの事案では、オランダ規制当局の処分はドライバーに関わるアカウントの自動停止に具体的に焦点を当てた。懸念は、ドライバーが人間によるレビューなしに、アルゴリズムによる意思決定に基づいてプラットフォームへのアクセスを失いうる点にあった。

この問題は、自動化システムに依存する企業が直面するより広範な課題、すなわち運営上の効率性と、個人の権利およびデータ処理を定める法的要件とのバランスを示している。

Uber、不服申立ての方針

Uberはこの制裁金に対して不服申立てを行うと述べている。

不服申立てにより、同社は規制当局の認定と制裁金の額に異議を唱える機会を得る。その結果次第で、9億6,300万ドルの制裁金が最終的に維持、修正、撤回のいずれになるかが決まる。オランダでは、データ保護に関する決定への異議は、規制当局自身ではなく最終的に裁判所が審査する。

この事案により、Uberは個人データと自動化システムの使用をめぐって巨額の規制上の制裁に直面している企業の仲間入りをした。2023年のMetaに対する12億ドルのGDPR制裁金との比較は、Uberに対する処分の規模を強調している。制裁金が維持されれば、9億6,300万ドルの制裁金は欧州のプライバシー枠組みの下で科された最大級の制裁の一つとなる。

自動意思決定への影響

Uberの事案は、個人に重大な影響を及ぼしうる意思決定にアルゴリズムを使用することの規制上のリスクを浮き彫りにする。ドライバーにとって、アカウントの停止はプラットフォームを通じて仕事にアクセスする能力に直接影響しうる。

そのため規制当局は、自動化システムが情報をどのように処理するかだけでなく、企業がそうした意思決定の影響を受ける人々のためにどのような安全策を講じているかについても調査してきた。

今後、この紛争はUberがオランダ規制当局の決定に異議を唱える不服申立ての手続きへと移行する。この事案はまた、雇用、収入、デジタルプラットフォームへのアクセスに関わる分野で企業が自動化システムをどう展開するかについて、引き続き注目を集める可能性がある。

現時点では、オランダ規制当局による9億6,300万ドルの制裁金は記録上最大級のGDPR制裁金の一つであり、一方でUberはこの決定に異議を唱える姿勢を維持している。

出典：Hokanews