Por qué la IA enfrenta una difícil decisión: nacionalización o descentralización

El 12 de septiembre, el CEO de Anthropic, Dario Amodei, pidió límites coordinados al desarrollo de la IA de frontera y presentó un plan de tres etapas. Anthropic comenzaría invitando a evaluadores externos a la empresa, con un acceso ampliamente comparable al de sus equipos internos de riesgos.

El equipo de revisión propuesto recibiría equipos de la empresa, acceso a espacios de trabajo y oportunidades para hablar con empleados. Su contrato permitiría publicar hallazgos clave sin que Anthropic controlara las conclusiones, sujeto a restricciones legales, de seguridad, privacidad y comerciales definidas. Los revisores externos podrían entonces evaluar si los compromisos de seguridad de Anthropic influyen en las decisiones reales de entrenamiento y despliegue.

Sin embargo, el acceso a un solo laboratorio no puede ralentizar por sí mismo un sector competitivo. Anthropic podría abrir sus sistemas a revisión mientras empresas rivales y gobiernos continúan acelerando sus esfuerzos. Por ello, la segunda etapa de Amodei pide regulación y coordinación mediada por el gobierno entre una masa crítica de desarrolladores estadounidenses de IA de frontera. Su tercera etapa busca acuerdos verificables entre Estados, al tiempo que permite que las democracias conserven suficiente margen estratégico frente a China para regular el ritmo del desarrollo.

El debate sobre la nacionalización frente a la descentralización combina tres formas distintas de poder. La propiedad pública determina quién recibe las ganancias económicas y puede influir en las decisiones corporativas. El acceso independiente determina quién puede inspeccionar el desarrollo de frontera. En cambio, una suspensión legalmente exigible limita directamente la rapidez con la que puede avanzar un sistema cubierto.

La estructura de gobernanza existente de Anthropic permite que sus directores consideren algo más que los rendimientos para los accionistas. La empresa opera como una Public Benefit Corporation, y la legislación de Delaware exige que sus directores equilibren los intereses pecuniarios de los accionistas, los intereses de las personas materialmente afectadas por el negocio y el beneficio público especificado de la empresa. El Long-Term Benefit Trust de Anthropic también posee facultades para seleccionar miembros del consejo, destinadas a respaldar la misión de la compañía.

Un estatuto de beneficio público puede autorizar decisiones centradas en la seguridad dentro de Anthropic, pero no puede obligar a un competidor que rechace la misma compensación. La propuesta de Amodei aborda esa brecha mediante reglas comunes y verificación internacional, en lugar de transferir la propiedad de la empresa.

La propiedad y el control son palancas diferentes

Una propuesta de junio de 2026 del senador Bernie Sanders ilustra una posible forma de nacionalización parcial. Su American AI Sovereign Wealth Fund adquiriría una participación pública del 50% en las mayores empresas estadounidenses de IA, mientras una comisión independiente ejercería los derechos de voto correspondientes. La medida sigue siendo una propuesta y no se ha convertido en ley.

La participación pública podría redirigir parte de las ganancias de la industria y dar a la comisión influencia sobre las decisiones corporativas. Por sí sola, no establecería umbrales de capacidad, verificación externa ni órdenes de suspensión exigibles. Esos mecanismos requerirían reglas legales separadas.

Un documento jurídico de agosto de 2026 elaborado por Yonathan Arbel, Simon Goldstein y Peter Salib distingue las pretensiones económicas del control sobre decisiones que las normas existentes no habían previsto. Los autores proponen una facultad gubernamental limitada, discrecional y temporal para detener el entrenamiento o el despliegue de sistemas de frontera cuando estén involucrados riesgos catastróficos o lo que denominan poder corporativo “duro”. Para los monopolios, la desigualdad y otros perjuicios, favorecen la regulación convencional o la tributación.

Una orden de suspensión abordaría la decisión sobre el ritmo de desarrollo de forma más directa que la participación pública. El Estado no tendría que ser propietario de cada modelo ni operar cada laboratorio antes de suspender el entrenamiento o el despliegue cubiertos. Para que esa autoridad tuviera legitimidad democrática, necesitaría criterios legales claros, competencia técnica, revisión independiente y límites a la discrecionalidad.

El control gubernamental también crea su propio riesgo de concentración. Colocar todos los laboratorios de frontera bajo propiedad estatal podría situar el desarrollo de modelos y la decisión de detenerlo dentro de la misma institución. Una facultad de suspensión acotada dejaría las empresas en manos privadas, a la vez que reservaría una intervención de emergencia para riesgos extremos definidos.

Los modelos con pesos abiertos avanzan en la dirección opuesta al ampliar el acceso. Los investigadores pueden inspeccionar y adaptar estos sistemas sin depender de un pequeño grupo de guardianes corporativos. En 2024, la U.S. National Telecommunications and Information Administration concluyó que las pruebas disponibles no justificaban restricciones generales sobre los pesos de modelos ampliamente disponibles.

Las capacidades de frontera hacen más difícil la aplicación de las normas. La Comisión Europea exige a los proveedores de modelos de propósito general con riesgo sistémico evaluar y mitigar riesgos, informar incidentes graves y mantener la ciberseguridad, incluso cuando un modelo sea de código abierto. La Comisión ha advertido que la mitigación puede volverse más difícil después de que un modelo avanzado se publique abiertamente.

Por tanto, la publicación abierta puede ampliar el escrutinio externo y, al mismo tiempo, complicar la aplicación posterior de las normas. La replicación entre jurisdicciones dificulta aplicar las medidas de mitigación de manera coherente. Las auditorías distribuidas dan a más instituciones la capacidad de cuestionar a un regulador o una empresa capturados, mientras que la distribución sin restricciones de los pesos de frontera puede debilitar los puntos de control necesarios para una suspensión legal.

El freno público necesita una supervisión plural

California y la Unión Europea muestran cómo las normas públicas pueden gobernar a desarrolladores de IA de propiedad privada. La SB 53 de California, promulgada en septiembre de 2025, exige a los grandes desarrolladores de sistemas de frontera publicar marcos de seguridad, crea un canal para informar posibles incidentes críticos de seguridad y protege a los denunciantes. La UE impone obligaciones de gestión de riesgos a los proveedores de modelos con riesgo sistémico, incluidos los modelos abiertos.

Los evaluadores propuestos por Amodei tendrían un acceso más profundo para comprobar si obligaciones comparables afectan las decisiones internas de las empresas. Una facultad de suspensión limitada y temporal daría a las autoridades públicas una opción de aplicación si un sistema cubierto superara un umbral de riesgo definido legalmente.

En esta estructura híbrida, los gobiernos establecerían reglas vinculantes para los desarrolladores de importancia sistémica, los evaluadores externos verificarían el cumplimiento y las autoridades públicas podrían pausar entrenamientos o despliegues específicos. Investigadores, denunciantes y reguladores de varias jurisdicciones conservarían vías independientes para cuestionar las pruebas.

El mecanismo de intervención necesitaría criterios vinculados a capacidades demostradas o fallas de seguridad, revisión por parte de una entidad externa a la oficina que lo invoque y reglas explícitas sobre su vencimiento y renovación. Los evaluadores necesitarían libertad para informar hallazgos desfavorables, con redacciones limitadas a necesidades legales, de seguridad, privacidad y comerciales legítimas y estrictamente delimitadas. Estas salvaguardas reducirían el riesgo de que una intervención temporal de seguridad se convierta en un control político permanente sobre la investigación de propósito general.

La prueba práctica de este modelo sería determinar si esas reglas se aplican a suficientes desarrolladores para evitar que la actividad simplemente se traslade fuera del grupo cubierto, y al mismo tiempo preservar el acceso independiente a las pruebas. Esto convierte el alcance de los sistemas cubiertos, la autoridad de los evaluadores y la jurisdicción de cualquier orden de suspensión en cuestiones centrales de implementación, no en detalles que la propiedad por sí sola pueda resolver.

El desarrollo privado podría continuar dentro de un límite regulatorio común mientras los sistemas de frontera siguieran siendo identificables y permanecieran disponibles puntos de control exigibles. Instituciones independientes inspeccionarían el cumplimiento y sacarían a la luz tanto la captura corporativa como la regulatoria.

Una participación pública podría redistribuir la riqueza de la IA y la influencia en los consejos directivos, pero la propiedad no especificaría cuándo debe detenerse el entrenamiento. La distribución abierta podría ampliar el acceso y el escrutinio, pero no proporcionaría una regla de detención exigible una vez que los pesos de frontera se hubieran dispersado.

Por lo tanto, un ritmo de desarrollo creíble exigiría que todos los desarrolladores de frontera cubiertos enfrentaran el mismo límite público. La legitimidad democrática requeriría que evaluadores independientes, investigadores, denunciantes y reguladores inspeccionaran las pruebas y cuestionaran tanto el límite como cualquier orden de suspensión.

Fuente: CryptoNewsNet. Referencia original: CryptoSlate