Jeudi, un expert en technologie a appelé à une plus grande transparence des grandes entreprises technologiques sur la personnalisation algorithmique, alors que les législateurs philippins font avancer une législation restreignant l'accès des mineurs aux réseaux sociaux.

« L'absence dans les deux projets de loi, c'est la transparence sur la personnalisation algorithmique », a déclaré à des journalistes lors d'une table ronde Jeffrey Ian C. Dy, ancien sous-secrétaire du Department of Information and Communications Technology (DICT), l'agence gouvernementale responsable de la politique en matière de TIC. « Nous devrions au moins pouvoir contrôler ces très grandes plateformes en ligne sur ce qu'est leur personnalisation algorithmique. »

Des projets de loi distincts à la Chambre et au Sénat

Le Sénat philippin et la Chambre des représentants ont chacun approuvé leur propre mesure visant à limiter l'utilisation des réseaux sociaux par les enfants.

En vertu de la House Bill No. 11566, également connue sous le nom de Safe and Friendly Environment for Kids in Digital Spaces (SAFE Kids) Act, les enfants de moins de 13 ans ne peuvent pas créer ni utiliser de comptes sur les réseaux sociaux, tandis que les 13 à 17 ans doivent obtenir le consentement d'un parent ou d'un tuteur.

La Senate Bill No. 2424, ou Safe Media Access and Responsible Technology for Kids in Digital Spaces (SMART KIDS) Act, adopte une approche plus large, interdisant à toute personne de moins de 18 ans l'accès aux réseaux sociaux ou à d'autres « services numériques à haut risque ». Les deux versions différant par leur portée et leurs seuils d'âge, elles devront être harmonisées en un texte unique via le processus législatif avant qu'un texte définitif puisse être promulgué.

Bien que les deux propositions visent à restreindre l'accès des jeunes, M. Dy a souligné qu'un manque de transparence dans les cadres algorithmiques pourrait également avoir des répercussions sur la consommation de médias pour toutes les tranches d'âge.

« Si votre personnalisation algorithmique échappe à tout contrôle… il faut aussi la limiter », a-t-il déclaré, mêlant anglais et filipino. « Il doit y avoir une forme de responsabilité… si elle impose certains biais, notamment des biais ethniques ou de genre. »

« Je pense que Meta a perdu une série de procès dans le monde entier concernant une personnalisation algorithmique excessive et ses effets sur le comportement cognitif, non seulement des enfants, mais aussi des adultes et des personnes âgées », a-t-il ajouté.

Enjeux économiques pour le secteur du BPO

Les politiques proposées pourraient également affecter l'économie du pays, y compris l'industrie de l'externalisation des processus d'affaires (BPO), qui utilise des plateformes de mise en réseau en ligne pour la gestion back-office. L'externalisation figure parmi les plus grands employeurs du secteur privé aux Philippines, avec plus d'un million de travailleurs.

« Une grande partie de tout cela devrait être communiquée de manière transparente afin d'atténuer le risque de retombées économiques ou de ralentissement économique dû à une trop grande instabilité dans l'espace numérique », a-t-il déclaré.

Les préoccupations liées à l'EVN relancent la dynamique

Les appels à une réglementation plus stricte des réseaux sociaux font suite à trois fusillades en milieu scolaire entre juin et septembre qui ont tué au moins huit élèves, l'influence en ligne de prétendus groupes d'extrémisme violent nihiliste (NVE) — un terme désignant des réseaux qui glorifient la violence de masse sans programme politique ou religieux conventionnel — étant considérée comme un facteur dans ces incidents.

« Je pense que cette loi est débattue depuis déjà longtemps et qu'elle a regagné en popularité en raison de l'extrémisme violent nihiliste », a déclaré l'ancien responsable du DICT. « Je pense qu'ils utilisent cette question pour accélérer l'adoption de cette loi. »

Alors que les enquêteurs examinent les prétendus liens entre les groupes NVE et les récents incidents scolaires, M. Dy a souligné que l'interdiction des réseaux sociaux ne garantirait pas en soi un environnement d'apprentissage plus sûr.

« S'il s'agit de prévenir l'extrémisme violent nihiliste, la loi qui devrait être adoptée devrait être similaire à la loi OSAEC (Online Sexual Abuse or Exploitation of Children), qui prévient le grooming », a-t-il déclaré. « La loi OSAEC rend spécifiquement illégal le fait pour un adulte d'aborder de manière non sollicitée un mineur, ce qui constitue du grooming. Les mêmes dispositions devraient être étendues pour couvrir le grooming visant l'extrémisme violent ou le terrorisme. »

Le secrétaire à l'Intérieur Juanito Victor « Jonvic » C. Remulla a précédemment rapporté qu'au moins 53 fusillades en milieu scolaire avaient été déjouées par les autorités après la fusillade du 18 septembre dans le South Cotabato, qui avait tué trois élèves. Plus de 50 personnes dans la municipalité de Banga, soupçonnées d'avoir proféré des menaces en ligne ou de se livrer à du « grooming », ont été arrêtées après l'incident.

— Almira Louise S. Martinez, BusinessWorld