Un experto en tecnología exigió el jueves mayor transparencia a las grandes empresas tecnológicas sobre la personalización algorítmica, mientras los legisladores filipinos avanzan en una legislación que restringe el acceso de los menores a las redes sociales.

"Lo que falta en ambos proyectos es la transparencia en la personalización algorítmica", declaró Jeffrey Ian C. Dy, exsubsecretario del Departamento de Tecnología de la Información y Comunicaciones (DICT), la agencia gubernamental líder en políticas de TIC, a reporteros en una mesa redonda. "Deberíamos poder al menos revisar estas plataformas en línea muy grandes sobre cuál es su personalización algorítmica".

Proyectos separados en el Congreso y el Senado

El Senado filipino y la Cámara de Representantes han aprobado cada uno sus propias medidas para limitar el uso de redes sociales por parte de los niños.

Bajo la Cámara de Representantes Proyecto de Ley No. 11566, también conocida como la Ley Safe and Friendly Environment for Kids in Digital Spaces (SAFE Kids), se prohíbe a los niños menores de 13 años crear o usar cuentas de redes sociales, mientras que los de 13 a 17 años deben obtener el consentimiento de sus padres o tutores.

El Proyecto de Ley del Senado No. 2424, o la Ley Safe Media Access and Responsible Technology for Kids in Digital Spaces (SMART KIDS), adopta un enfoque más amplio, prohibiendo el acceso a redes sociales y otros "servicios digitales de alto riesgo" a cualquier persona menor de 18 años. Dado que las dos versiones difieren en alcance y umbrales de edad, deberían conciliarse en un texto único mediante el proceso legislativo antes de que un proyecto final pueda firmarse como ley.

Aunque ambas propuestas se centran en restringir el acceso de los jóvenes, el señor Dy señaló que la falta de transparencia en los marcos algorítmicos también podría tener implicaciones en el consumo de medios en todos los grupos de edad.

"Si tu personalización algorítmica se está saliendo de control… también deberías limitarla", dijo en una mezcla de inglés y filipino. "Debe haber alguna rendición de cuentas ahí… si está imponiendo ciertos sesgos, especialmente si son sesgos étnicos o de género".

"Creo que Meta ha perdido una cadena de litigios en todo el mundo por demasiada personalización algorítmica y su efecto en el comportamiento cognitivo, no solo de los niños, sino también de los adultos y los ancianos", añadió.

Riesgos económicos para el sector BPO

Las políticas propuestas también podrían afectar la economía del país, incluida la industria de Externalización de Procesos de Negocio (BPO), que utiliza plataformas de redes en línea para la gestión de back-office. La externalización es uno de los mayores empleadores del sector privado en Filipinas, proporcionando empleo a más de un millón de trabajadores.

"Mucho de esto debería comunicarse de manera transparente para mitigar el riesgo de repercusiones económicas o una desaceleración económica debido a demasiada inestabilidad en el espacio digital", dijo.

La preocupación por el NVE impulsa un renovado impulso

Los llamados a una regulación más estricta de las redes sociales llegan después de que tres tiroteos escolares de junio a septiembre mataran al menos a ocho estudiantes, considerándose la influencia en línea de presuntos grupos de extremismo violento nihilista (NVE) —un término para redes que glorifican la violencia masiva sin una agenda política o religiosa convencional— como un factor en los incidentes.

"Creo que esta ley se ha discutido durante bastante tiempo y ha vuelto a ganar popularidad debido al extremismo violento nihilista", dijo el exfuncionario del DICT. "Creo que están usando este tema para acelerar esta ley en particular".

Mientras los investigadores examinan los presuntos vínculos entre los grupos NVE y los recientes incidentes escolares, el señor Dy subrayó que prohibir el acceso a las redes sociales no garantizaría por sí solo un entorno de aprendizaje más seguro.

"Si hablamos de prevenir el extremismo violento nihilista, la ley que debería promulgarse debería ser similar a la ley OSAEC (Abuso o Explotación Sexual en Línea de Niños), que previene el grooming", dijo. "La ley OSAEC específicamente hace ilegal que un adulto realice acercamientos no solicitados a un menor, ya que esto constituye grooming. Las mismas disposiciones deberían extenderse para cubrir el grooming para el extremismo violento o el terrorismo".

El secretario de Interior Juanito Victor "Jonvic" C. Remulla informó anteriormente que al menos 53 tiroteos escolares fueron frustrados por las autoridades tras el incidente de tiroteo en South Cotabato el 18 de septiembre que mató a tres estudiantes.

Más de 50 individuos en el municipio de Banga que supuestamente realizaban amenazas en línea o practicaban "grooming" fueron arrestados después del incidente.

— Almira Louise S. Martinez, BusinessWorld