La Ciudad de Nueva York está en camino de convertir la regulación de la IA en un sistema de recompensas. La presidenta del Concejo Municipal, Julie Menin, presentó el 25 de septiembre un paquete de proyectos de ley de supervisión de inteligencia artificial que incluye una disposición para pagar a los denunciantes un porcentaje de las multas recaudadas a las empresas de IA que incurran en infracciones.

Qué contiene el paquete

Si bien el incentivo a los denunciantes es lo que más atención está atrayendo, forma parte de un impulso legislativo mucho más amplio. Según los proyectos, los sistemas de IA no conformes estarían sujetos a «interruptores de apagado» (kill switches) humanos obligatorios, lo que significa que una persona real debe poder apagar un sistema cuando un algoritmo se descontrola. Las auditorías de seguridad de terceros también serían un requisito, y las multas por infracciones podrían alcanzar los 25.000 dólares por ofensa. Dado que cualquier pago a un denunciante sería una parte de las multas efectivamente recaudadas, ese tope de sanciones establece de facto el límite superior del tamaño de las posibles recompensas.

Otro proyecto del paquete ampliaría los derechos legales de las personas perjudicadas por la IA, abriendo la puerta a que demanden directamente a los desarrolladores.

El paquete completo está previsto que se debata en una audiencia del Concejo Municipal el 5 de octubre, en la que se espera la participación de los 51 miembros del Concejo, es decir, todo el órgano. Se ha invitado a asistir a los directores ejecutivos de empresas destacadas de IA.

El canal de denuncias ya está abierto

La medida del Concejo Municipal no salió de la nada. Ocho días antes, el 17 de septiembre, la fiscal general de Nueva York, Letitia James, lanzó un portal específico de denuncias para trabajadores de IA. Ese portal ofrece a los empleados de empresas de IA un canal formal para reportar inquietudes sobre prácticas inseguras o dañinas. La recompensa propuesta daría a esos mismos empleados una participación financiera directa en la aplicación de la ley, ya que los pagos provienen de las multas recaudadas a las empresas declaradas en infracción.

Por qué Nueva York, y por qué ahora

La Ciudad de Nueva York tiene una larga historia de prueba de regulaciones locales agresivas antes de que se materialicen los marcos federales. Su ley de 2023 que exige auditorías de sesgo para herramientas de contratación basadas en IA, la Ley Local 144, fue una de las primeras regulaciones específicas de IA del país.

El nuevo paquete va considerablemente más lejos. Mientras que la ley de contratación se centraba en un solo caso de uso, la legislación propuesta intenta crear un marco general de supervisión para los sistemas de IA que operan dentro de los límites de la ciudad. La combinación de interruptores de apagado, requisitos de auditoría, derechos de acción privada y recompensas denunciantes sugiere que los legisladores buscan construir una arquitectura regulatoria integral.

Qué significa para la industria

Para las empresas de IA con operaciones en Nueva York, la carga de cumplimiento está llamada a aumentar. Las auditorías de terceros cuestan dinero, y los requisitos de interruptores de apagado pueden obligar a cambios de arquitectura en los sistemas ya desplegados.

La disposición de derecho de acción privada puede ser la pieza más trascendental en materia de responsabilidad corporativa. Actualmente, si un sistema de IA niega a alguien una vivienda, un seguro o un empleo por una lógica defectuosa, la persona afectada a menudo tiene recursos legales limitados. Permitir demandas directas contra los desarrolladores cambia la economía del despliegue de IA en dominios de alto riesgo.

El próximo hito llega el 5 de octubre, cuando las medidas pasen ante el pleno del Concejo, con ejecutivos de las empresas que quedarían reguladas invitados a asistir.