La verdadera discontinuidad quizá no ocurra cuando las máquinas superen a los seres humanos. Puede ocurrir cuando la capacidad de la IA se acumule más rápido de lo que las instituciones pueden absorberla.

En una reunión reciente del comité de riesgos, la pregunta parecía sencilla: ¿La divulgación de riesgos de IA de la organización sigue siendo precisa? La respuesta fue menos clara. Desde la revisión anterior, los sistemas de IA habían cambiado sustancialmente. Realizaban tareas más extensas, utilizaban más herramientas, operaban con menos supervisión y contribuían directamente al desarrollo de software y a la investigación. Sin embargo, el marco de riesgos no había evolucionado al mismo ritmo.

No necesariamente había fallado nada. Ese era el problema. Se le estaba pidiendo al consejo directivo que aprobara un entorno de control diseñado para una tecnología cuyo perfil de capacidades ya estaba superando los supuestos en los que se basaba.

Aquí es donde debería comenzar el debate sobre la Singularidad: no con predicciones sobre cuándo las máquinas superarán a los seres humanos, sino con una pregunta de gobernanza menos exótica y más urgente. Esa discontinuidad no requiere una explosión de inteligencia, una fecha determinada ni un acuerdo sobre el significado de la inteligencia artificial general. Ya es un problema de control.

Tres conversaciones que suelen confundirse

Gran parte del debate público sobre la IA es confuso porque tres conceptos distintos suelen tratarse como si fueran uno solo.

La capacidad describe lo que pueden hacer los sistemas de IA. Es empírica, comprobable y avanza rápidamente.

La autonomía describe qué parte del ciclo de decisión y acción puede operar sin intervención humana directa. Aquí se encuentra el desafío inmediato de gobernanza. Un sistema de IA que genera una respuesta es una cosa. Un sistema que determina la siguiente acción, accede a una herramienta, ejecuta esa acción, evalúa el resultado y continúa es materialmente distinto.

La Singularidad es una discontinuidad especulativa: un punto en el que la mejora impulsada por la IA se vuelve suficientemente autorreforzada como para que las previsiones humanas convencionales dejen de ser confiables.

Estos conceptos no son intercambiables. Un director no necesita creer que una Singularidad tecnológica sea inminente para reconocer que una mayor autonomía crea un entorno de control diferente. Del mismo modo, alguien puede creer que la capacidad de la IA eventualmente será transformadora sin creer que una explosión de inteligencia sea inevitable.

Esta distinción importa porque la gobernanza no puede esperar a que se responda la tercera pregunta antes de actuar sobre la segunda.

El ciclo no está cerrado, pero tampoco es irrelevante

La evidencia más sólida para este argumento también es la menos sensacionalista. Los laboratorios de IA de frontera delegan cada vez más partes del desarrollo de IA a los propios sistemas de IA.

Anthropic describe una progresión que va desde seres humanos que escriben código, pasando por agentes de programación que escriben y editan cantidades sustanciales de código, hasta agentes que ejecutan código y delegan trabajo en otros agentes. Anthropic informa que, a mayo de 2026, Claude había creado más del 80% del código que incorpora a su base de código de producción.

La precisión importante está en lo que no ha ocurrido. La dirección de la investigación sigue siendo humana y el ciclo no es completamente autónomo. Anthropic afirma explícitamente que la mejora recursiva autónoma aún no está ocurriendo en el sentido plenamente autónomo y que no es inevitable.

Sam Altman también ha descrito el estado actual como una versión “larval” de la mejora recursiva, aunque reconoce que esto no equivale a que un sistema de IA se reescriba autónomamente.

Esa precisión fortalece, en lugar de debilitar, el argumento a favor de la gobernanza. La pregunta relevante no es si el ciclo está cerrado. Es cuánto del ciclo ya pasó de la ejecución humana a la ejecución de máquinas, y si los controles institucionales están avanzando con él.

La gobernanza opera con un reloj diferente

La regulación ilustra el mismo problema de ritmo. El gobierno de Estados Unidos estableció un marco voluntario para ciertos modelos de frontera, que incluye el acceso gubernamental a modelos cubiertos antes de su lanzamiento y un proceso clasificado de evaluación comparativa para determinar si los modelos alcanzan un umbral de frontera. El marco se detiene explícitamente antes de exigir licencias obligatorias o autorización previa. La Casa Blanca

Al mismo tiempo, NIST está desarrollando enfoques prácticos para la identidad y autorización de agentes, incluidos la identificación, autorización, auditoría, no repudio y controles contra la inyección de instrucciones.

La dirección es significativa. Los instrumentos de gobernanza se están rediseñando en torno a sistemas que pueden actuar, no simplemente a sistemas que generan información. Para las organizaciones, esto significa que la supervisión debe seguir no solo la capacidad del modelo, sino también los permisos, sistemas, datos y terceros conectados al sistema. Esas dimensiones determinan las consecuencias de una acción y la evidencia necesaria para demostrar que permaneció bajo control.

Los reguladores financieros también están haciendo igualmente explícita la responsabilidad de los consejos directivos. La FCA, el Banco de Inglaterra y el Tesoro han señalado que las empresas deben garantizar que sus consejos directivos y altos equipos ejecutivos comprendan suficientemente los riesgos de la IA de frontera para establecer la dirección estratégica y supervisar las funciones de control.

Esto no demuestra que los reguladores estén fallando. Refleja una realidad estructural: la tecnología cambia primero, mientras que las instituciones formalizan su respuesta después. Por lo tanto, los consejos directivos no pueden convertir la certeza regulatoria en un requisito previo para actuar.

El verdadero problema puede ser la brecha de absorción

Aquí es donde la conversación sobre la Singularidad se convierte en un asunto empresarial. Una organización puede tener acceso a una capacidad extraordinaria de IA y, aun así, ser estructuralmente incapaz de absorberla.

Una institución financiera puede implementar un agente capaz de realizar análisis sofisticados mientras su marco de control supone que un analista humano formula cada recomendación relevante. Un minorista puede automatizar decisiones sobre precios, inventario y relación con clientes mientras la rendición de cuentas sigue organizada en torno a gerentes humanos. Una empresa tecnológica puede permitir que los sistemas de IA generen y prueben software a una velocidad sin precedentes mientras la revisión de seguridad, la gestión de cambios y la respuesta a incidentes siguen diseñadas para ciclos de desarrollo humanos.

La capacidad ha cambiado. La institución no.

La experiencia en comités de auditoría y riesgos, servicios financieros, comercio minorista, medios de comunicación, lujo, deporte y tecnología refuerza el mismo patrón: la capacidad puede llegar a todas partes al mismo tiempo, mientras que las tasas de absorción varían enormemente según la regulación, la infraestructura heredada, la estructura de la fuerza laboral y la madurez de los controles.

Esa variación importa. Desde una perspectiva de riesgos y corretaje, este es el punto en el que el riesgo de IA deja de ser un documento técnico y empieza a convertirse en una prima. En última instancia, aseguradoras, inversionistas, reguladores y consejos directivos formulan versiones de la misma pregunta: ¿Puede la organización demostrar que comprende y controla la exposición que está creando?

¿Debería la gobernanza avanzar tan rápido como la IA?

La respuesta obvia es hacer que la gobernanza avance más rápido. Pero una gobernanza más rápida no es automáticamente una gobernanza mejor.

El objetivo quizá no debería ser una gobernanza al ritmo de la tecnología, sino una gobernanza al ritmo necesario para preservar el control. La pregunta correcta para un consejo directivo quizá no sea: “¿Hemos aprobado esta capacidad de IA?”. En cambio, podría ser: “¿Qué ha cambiado en el perfil de capacidad, autonomía, acceso o consecuencias desde que lo aprobamos por última vez, y nuestros controles han cambiado en consecuencia?”.

Es una pregunta más difícil, pero también más útil.

El instrumento de gobernanza

La mayoría de los comentarios sobre IA terminan con una advertencia. Los consejos directivos necesitan algo más práctico: un mecanismo que asuma que el terreno seguirá cambiando.

La respuesta no es predecir mejor cuándo podría ocurrir la Singularidad. Es un mecanismo dinámico de gobernanza que mida si la institución conserva la capacidad de controlar lo que ha implementado.

Ese instrumento debería tener cinco características:

1. Etapas de control explícitas. Los programas de IA deberían avanzar mediante criterios puntuados, en lugar de actualizaciones narrativas de estado. La capacidad, autonomía, acceso, cobertura de controles, resiliencia y rendición de cuentas deberían evaluarse explícitamente.
2. Crédito parcial. Las organizaciones necesitan ver dónde están mejorando sin confundir el progreso con la preparación.
3. Un umbral de aprobación estricto. Si no se cumple un requisito de control crítico, el optimismo no debería permitir una excepción.
4. Hitos de decisión separados de las puntuaciones. Un consejo directivo puede aceptar conscientemente un riesgo, lo cual constituye una gobernanza legítima. Pero el juicio debe seguir siendo visible como juicio, en lugar de disfrazarse de número.
5. Una frecuencia de actualización mayor. Si la capacidad puede cambiar sustancialmente entre reuniones trimestrales del consejo, los informes trimestrales son estructuralmente incapaces de proporcionar suficiente visibilidad. Un programa relevante de IA de frontera podría requerir actualizaciones semanales.

Este patrón se está aplicando en un programa bancario digital activo. La lección transferible es sencilla: cuando el entorno cambia rápidamente, la gobernanza debe medir el movimiento en lugar de limitarse a documentarlo.

Por lo tanto, los consejos directivos deberían poder responder varias preguntas: ¿Qué puede hacer ahora el sistema que no podía hacer en la última revisión? ¿Qué decisiones o acciones puede tomar sin intervención humana directa? ¿A qué sistemas, datos, credenciales y terceros puede acceder? ¿Qué controles operan antes, durante y después de esas acciones? ¿Qué evidencia demuestra que esos controles funcionan? ¿Qué ha cambiado en el riesgo residual? ¿La capacidad de la institución para absorber esa capacidad ha avanzado al mismo ritmo que la propia capacidad?

Si la dirección no puede responder estas preguntas, el problema ya no es simplemente la madurez de la IA. Es la madurez de la gobernanza.

La pregunta que los consejos directivos deberían debatir

La Singularidad podría demostrar eventualmente ser una discontinuidad de inteligencia. Sin embargo, los consejos directivos no necesitan resolver esa cuestión filosófica. Hay una discontinuidad más inmediata que merece ser gobernada: la posibilidad de que la capacidad de las máquinas se acumule más rápido que el control institucional.

Existe un debate legítimo detrás de este asunto. Quizá la respuesta sea una gobernanza más sólida. Quizá sea una gobernanza mejor diseñada. En algunos casos, quizá la respuesta sea no implementar una capacidad hasta que la institución pueda absorberla.

Esa última postura frustrará a algunos líderes tecnológicos. Debería hacerlo. El propósito de la gobernanza no es hacer cómoda la implementación. Pero la gobernanza tampoco debe convertirse en una excusa para la parálisis institucional. El desafío es saber distinguir ambas cosas.

Por lo tanto, la pregunta del consejo directivo no es: “¿Cuándo nos superarán las máquinas?”. Es: “¿Cuánta autonomía estamos dispuestos a gobernar antes de saber que nuestra institución puede absorberla?”.

Esa es una pregunta que un consejo directivo puede responder. A diferencia de la fecha de la Singularidad, no puede posponerse.

La Singularidad es una pregunta sobre las máquinas. La brecha de gobernanza es una pregunta sobre nosotros.