El Congreso pasó casi una década celebrando audiencias sobre inteligencia artificial mientras aprobaba casi nada para hacerla más segura. Ahora el Concejo Municipal de Nueva York quiere averiguar si una ciudad puede lograr lo que Washington no ha logrado.

El viernes, la presidenta del Concejo Municipal, Julie Menin, presentó un paquete de leyes que exigiría que los sistemas de IA vendidos en la ciudad pasen una validación externa y cuenten con un mecanismo de apagado, pagaría a los denunciantes que reporten violaciones y permitiría a los neoyorquinos demandar a empresas de IA cuando herramientas vulneradas les causen daños. La legislación será discutida el 5 de octubre en una audiencia del Comité Plenario con los 51 miembros del Concejo. A diferencia del estancado esfuerzo federal, el Concejo alega jurisdicción directa: las empresas detrás de estos sistemas venden sus productos en Nueva York y mantienen algunas de sus oficinas más grandes allí.

"Obviamente no buscamos de ninguna manera sofocar la innovación. Queremos garantizar que Nueva York siga siendo la capital mundial de la IA, pero eso conlleva responsabilidad", declaró Menin a Fortune. "No creo que estas dos ideas sean mutuamente excluyentes en absoluto. De hecho, creo que van de la mano".

"Quieres ser la capital de la innovación y quieres ser la capital de una regulación inteligente y sensata con salvaguardas a su alrededor, porque quieres que la gente confíe en el producto en sí", afirmó.

Una audiencia de alto perfil

El Concejo ha invitado a declarar a Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk y Mark Zuckerberg, los CEOs de Anthropic, OpenAI, Google, SpaceXAI y Meta, respectivamente. La audiencia del 5 de octubre será un Comité Plenario, un formato que el Concejo Municipal no ha convocado desde 2022.

Fuentes con conocimiento de la audiencia dijeron a Fortune que es probable que ninguno de los cinco ejecutivos solicitados comparezca, aunque el Concejo Municipal se reserva el derecho de citarlos. Las empresas no respondieron de inmediato a las solicitudes de comentarios de Fortune. Si alguno de los cinco asiste, o si el Concejo procede a obligarlos a declarar, será la primera prueba visible de cuánta resistencia enfrenta el paquete.

Aun así, eso no descarta que otros líderes representen a estas empresas, y Menin dijo que el objetivo es que el público gane confianza en estas instituciones. "Este tipo de regulaciones en realidad mejoran la fe de las personas en estas tecnologías de IA", dijo.

Las ciudades toman la iniciativa

Para Menin, abogada de regulación convertida en política, la legislación no está destinada a quedarse dentro de los límites de la ciudad. "Como abogada de regulación, y como alguien que se desempeñó como comisionada del Departamento de Protección al Consumidor y al Trabajador, siento firmemente que hay un papel deazgo absoluto que Nueva York debe desempeñar", dijo.

Describió las leyes como un estudio de caso de un curso que impartió en la Universidad de Columbia, "When Cities Take the Lead" (Cuando las ciudades toman la iniciativa), que examinaba qué deberían hacer las ciudades "cuando el gobierno federal desregula o no actúa".

"Este es quizás uno de los mayores casos de eso, donde tienes un producto de IA que tiene muy poca regulación", dijo Menin. "En la ciudad de Nueva York regulamos todo tipo de productos y servicios, desde barberías hasta salones de uñas, y sin embargo aquí tenemos una situación con la IA donde hay muy poca regulación".

Un historial federal escaso

El historial federal al que se enfrenta Menin es largo y mayormente vacío. La primera ley federal de IA, la FUTURE of AI Act, fue presentada en 2017 y no llegó a ninguna parte. En 2023, el CEO de OpenAI, Sam Altman, pidió al Senado que regulara su industria; el entonces líder de la mayoría, Chuck Schumer, respondió con nueve foros a puertas cerradas que produjeron una hoja de ruta pero ninguna ley. Para 2025, Altman decía a los senadores que exigir la aprobación del gobierno para lanzar IA sería un desastre.

Cuando Washington finalmente actuó, fue para impedir que otros actuaran. El Senado eliminó por 99 votos a 1 la propuesta de prohibición de 10 años del senador Ted Cruz sobre leyes estatales de IA en julio de 2025, y el presidente Trump creó entonces un grupo de trabajo del Departamento de Justicia para demandar a los estados por sus leyes de IA. Su primer objetivo, Colorado, debilitó su propia ley cinco semanas después de presentarse la demanda.

Incluso después de que el investigador de Anthropic, Jacob Coxon, renunciara este mes advirtiendo que las empresas de IA estaban jugando con vidas humanas, la respuesta federal se ha limitado a cartas e investigaciones. El esfuerzo más reciente proviene de una ley bipartidista de seguridad de Cruz, la senadora Amy Klobuchar y el líder de la mayoría John Thune, que probablemente anularía la mayoría de las leyes estatales, incluida la actual RAISE Act de Nueva York. Cómo se resuelva finalmente esa batalla de preemptión determinará cuánto del paquete del Concejo puede entrar en vigor.

En una publicación de julio, OpenAI argumentó que los estados podrían llenar el vacío aprobando leyes que se reflejen entre sí en lugar de una federal. Sin embargo, es en la ciudad de Nueva York, y no en la mayoría de los estados que ahora redactan leyes de IA, donde estas empresas han echado raíces. Google tiene más de 14,000 empleados en la ciudad, y Meta alquila 1.2 millones de pies cuadrados en 50 Hudson Yards. Anthropic alquiló un edificio entero de 16 pisos en 330 Hudson Street este verano y espera tener más de 1,000 empleados en la ciudad para fin de año, mientras que OpenAI tomó 90,000 pies cuadrados en el Puck Building en 2024.

"Estas empresas tienen oficinas en Nueva York. El producto se vende en Nueva York, y creemos que esto entra en nuestro dominio de regulación", dijo Menin.

Qué harían las leyes

La más amplia de las leyes prohibiría a cualquier empresa vender o desplegar un sistema de IA en la ciudad a menos que un validador externo lo hubiera verificado en cuanto a calidad de datos, sesgo, privacidad y seguridad bajo estándares establecidos por la Oficina de Cibercomando de la ciudad. Cada sistema también necesitaría un mecanismo de apagado, una anulación humana capaz de detenerlo. Como ese requisito aplica a cualquier empresa que venda o despliegue IA en la ciudad, alcanzar mucho más allá de los grandes laboratorios.

"Esta no es una industria que deba autorregularse", dijo Menin. "Ahora mismo, el problema es que eso es básicamente lo que existe como estándar". Una multa de $25,000 aplicaría a cada instancia, lo que según Menin significa que "si hay un enjambre de agentes, la sanción se aplicaría por agente".

Una ley separada daría a los denunciantes una parte de las multas recuperadas de empresas de IA que infrinjan la ley, lo que el Concejo considera la primera medida de este tipo en el país. Una medida complementaria protegería a los empleados y contratistas de la ciudad que reporten amenazas de IA a la seguridad pública.

Una tercera ley permitiría a las personas demandar a empresas de IA por daños causados por terceros que eludan los controles de seguridad, siempre que el daño fuera previsible y la empresa careciera de salvaguardas razonables. Los tribunales no han resuelto si la Sección 230, la ley federal que protege a las plataformas de responsabilidad por el contenido de los usuarios, cubre los resultados generados por IA, por lo que la ley también podría poner a prueba la legislación federal.

Otras leyes exigirían a los contratistas de la ciudad reportar incidentes de seguridad de IA dentro de las 24 horas, prohibirían afirmaciones de seguridad falsas o engañosas, establecerían reglas de privacidad para chatbots basadas en el People-First Chatbot Bill del Electronic Privacy Information Center, y exigirían a la ciudad planificar ataques impulsados por IA contra sus sistemas. El Concejo ha dicho que vienen más leyes, incluida una prohibición de deepfakes engañosos y un estudio sobre cómo las herramientas algorítmicas cambian las funciones laborales. La audiencia del 5 de octubre será el primer punto de control público sobre hasta dónde se extiende ese esfuerzo.

"Nuestras leyes abordan todo tipo de maneras diferentes de tratar el tema de la seguridad", dijo Menin. "Queremos seguir siendo un centro de innovación. La idea de que la regulación obstaculice eso de alguna manera, no lo creo".

Esta historia fue publicada originalmente en Fortune.