Een technologie-expert riep donderdag op tot meer transparantie van grote technologiebedrijven over algoritmische personalisatie, nu Filipijnse wetgevers wetgeving bevorderen die de toegang van minderjarigen tot sociale media beperkt.

"Het ontbrekende in beide wetsvoorstellen is de transparantie in algoritmische personalisatie", zei Jeffrey Ian C. Dy, voormalig ondersecretaris van het Department of Information and Communications Technology (DICT), de belangrijkste overheidsinstantie voor ICT-beleid, tegen verslaggevers tijdens een rondetafelgesprek. "We moeten in ieder geval in staat zijn om deze zeer grote online platforms te controleren op wat hun algoritmische personalisatie inhoudt."

Aparte wetsvoorstellen in Congres en Senaat

De Filipijnse Senaat en het Huis van Afgevaardigden hebben elk hun eigen maatregelen goedgekeurd om het gebruik van sociale media door kinderen te beperken.

Op grond van House Bill No. 11566, ook bekend als de Safe and Friendly Environment for Kids in Digital Spaces (SAFE Kids) Act, is het kinderen onder de 13 verboden sociale-mediaaccounts aan te maken of te gebruiken, terwijl personen van 13 tot 17 jaar ouderlijke of voogdelijke toestemming moeten verkrijgen.

Senate Bill No. 2424, of de Safe Media Access and Responsible Technology for Kids in Digital Spaces (SMART KIDS) Act, hanteert een bredere aanpak en verbiedt iedereen onder de 18 toegang tot sociale media of andere "digitale diensten met hoog risico." Omdat de twee versies verschillen in reikwijdte en leeftijdsgrenzen, moeten ze via het wetgevingsproces worden geharmoniseerd tot één tekst voordat een definitief wetsvoorstel kan worden ondertekend als wet.

Hoewel beide voorstellen zich richten op het beperken van de toegang van jongeren, wees Dy erop dat een gebrek aan transparantie in algoritmische kaderen ook gevolgen kan hebben voor mediagebruik in alle leeftijdsgroepen.

"Als uw algoritmische personalisatie uit de hand begint te lopen… moet u dat ook beperken", zei hij in een mix van Engels en Filipino. "Er moet daar enige verantwoordingsplicht zijn… als het bepaalde vooroordelen oplegt, vooral als het etnische of genderbias betreft."

"Ik denk dat Meta een reeks rechtszaken over de hele wereld heeft verloren over te veel algoritmische personalisatie en het effect daarvan op cognitief gedrag, niet alleen bij kinderen, maar ook bij volwassenen en ouderen", voegde hij toe.

Economische inzet voor de BPO-sector

De voorgestelde maatregelen kunnen ook gevolgen hebben voor de economie van het land, waaronder de Business Process Outsourcing-industrie (BPO), die online netwerkplatformen gebruikt voor backofficemail-beheer. Outsourcing is een van de grootste private werkgevers van de Filipijnen en biedt werk aan meer dan een miljoen mensen.

"Veel hiervan moet transparant worden gecommuniceerd om het risico op economische schade of economische neergang als gevolg van te veel instabiliteit in de digitale ruimte te beperken", zei hij.

NVE-zorgen zorgen voor hernieuwde impuls

De oproep tot strengere regulering van sociale media volgde op drie schietpartijen op scholen van juni tot september, waarbij ten minste acht studenten omkwamen, waarbij de online invloed van vermeende nihilistische gewelddadige extremistische (NVE) groeperingen — een term voor netwerken die massageweld verheerlijken zonder een conventionele politieke of religieuze agenda — als factor bij de incidenten wordt beschouwd.

"Ik denk dat deze wet al vrij lang wordt besproken en dat deze opnieuw populair werd door nihilistisch gewelddadig extremisme", zei de voormalige DICT-functionaris. "Ik denk dat zij dit probleem gebruiken om deze specifieke wet te versnellen."

Terwijl onderzoekers vermeende banden tussen NVE-groeperingen en de recente schoolincidenten onderzoeken, benadrukte Dy dat het verbieden van toegang tot sociale media op zichzelf geen veiligere leeromgeving garandeert.

"Als we het hebben over het voorkomen van nihilistisch gewelddadig extremisme, zou de wet die moet worden aangenomen vergelijkbaar moeten zijn met de OSAEC-wet (Online Sexual Abuse or Exploitation of Children), die grooming voorkomt", zei hij. "De OSAEC-wet maakt het specifiek strafbaar voor een volwassene om ongevraagde avances te maken naar een minderjarige, omdat dit grooming vormt. Dezelfde bepalingen zouden moeten worden uitgebreid naar grooming voor gewelddadig extremisme of terrorisme."

Minister van Binnenlandse Zaken Juanito Victor "Jonvic" C. Remulla meldde eerder dat ten minste 53 schietpartijen op scholen door de autoriteiten zijn verijdeld na het schietincident in South Cotabato op 18 september, waarbij drie leerlingen omkwamen. Meer dan 50 personen in de gemeente Banga die naar verluidt online dreigementen deden of zich bezighielden met "grooming" werden na het incident gearresteerd.

— Almira Louise S. Martinez, BusinessWorld