El ajuste de cuentas del mercado de la IA con el riesgo existencial para la seguridad avanza rápidamente, y las empresas deberían prestar atención. Pero incluso mientras los principales proveedores de la industria intensifican sus llamados a una regulación nacional obligatoria de la inteligencia artificial, la tarea más práctica para las compañías es preparar a sus propias organizaciones para posibles cambios.

El dilema se complica por el panorama competitivo, particularmente por la rivalidad geopolítica entre Estados Unidos y China en torno al comercio y la tecnología de IA.

OpenAI pide reglas de seguridad obligatorias

Chris Lehane, director global de asuntos públicos de OpenAI, escribió el miércoles una publicación de blog en la que instó a los responsables de políticas de todo el mundo a actuar para contener el riesgo de la IA. Lehane dijo que OpenAI está impulsando requisitos nacionales obligatorios de seguridad para la IA y respaldando cuatro proyectos de ley de California, incluido uno que crearía un marco para evaluaciones de seguridad independientes, además de otros dos que el gobernador de California, Gavin Newsom, promulgó el mismo miércoles.

El proveedor de IA agregó que está dispuesto a trabajar con otros laboratorios de frontera para impulsar estándares de seguridad de la IA, adoptar una mayor autorregulación y promover enfoques internacionales colaborativos para medir capacidades, gestionar riesgos y preservar el control humano de la tecnología de IA.

Para las empresas que siguen el debate sobre seguridad, el mejor curso de acción es incorporar la seguridad en la clasificación de riesgos relacionada con la forma en que sus organizaciones utilizan la tecnología, afirmó Lauren Kornutick, analista de Gartner.

“Pueden incorporar protecciones o controles adicionales en torno al uso de la IA en su organización mientras los reguladores se ponen al día, porque toma tiempo lograr que los órganos legislativos coincidan en cómo implementar estas medidas”, dijo Kornutick.

Crece la alarma por el riesgo de la IA

La declaración de política de OpenAI llega en medio de una creciente alarma sobre los riesgos de la tecnología, tras incidentes separados en los que agentes de IA impulsados por modelos de OpenAI y Anthropic escaparon de sus entornos aislados. Los episodios subrayaron lo poco que todavía se sabe sobre el comportamiento de los sistemas de IA.

“La velocidad a la que mejoran las capacidades de la IA es mayor que la velocidad a la que nuestras instituciones pueden comprenderlas y gobernarlas”, afirmó Kashyap Kompella, fundador de RPA2AI Research. Agregó que, con modelos de razonamiento, capacidad de cómputo de IA potenciada y agentes autónomos cada vez más capaces, la tecnología ha cruzado un umbral importante.

Muchas figuras destacadas, incluido Geoffrey Hinton, a menudo descrito como el padrino de la IA, han expresado preocupación por la complejidad y el peligro potencial de la IA generativa. Luego, el miércoles, Jacob Coxon, investigador de Anthropic que anteriormente trabajó en OpenAI, advirtió en una publicación en redes sociales que las empresas se apresuran hacia una superinteligencia demasiado peligrosa que podría matar a todos los seres humanos antes del final de la década. Coxon, quien desde entonces renunció a Anthropic, sostuvo que ninguna empresa puede desarrollar de forma segura una inteligencia artificial general sin intervención gubernamental.

El panorama competitivo

“La renuncia de Coxon pone de relieve un problema estructural importante”, dijo Kompella. “La competencia entre las principales empresas de IA crea incentivos para seguir impulsando las capacidades, incluso cuando algunos investigadores consideran que los riesgos se están volviendo muy graves”.

Esa competencia, agregó, significa que pedir a los proveedores que se autorregulen o detengan voluntariamente el progreso tecnológico no es una respuesta realista. Los principales proveedores de IA están motivados no solo por la carrera para superar a sus rivales, sino también por la rivalidad geopolítica entre Estados Unidos y China en torno al comercio y la tecnología de IA.

“Las presiones geopolíticas son tales que los dos grandes actores, Estados Unidos y China, sienten que para ellos es existencial ganar la carrera de la IA”, afirmó Michael Bennett, vicerrector asociado de ciencia de datos y estrategia de IA en la University of Illinois Chicago. “No pueden darse el lujo de desacelerar debido a las implicaciones competitivas de la carrera de la IA”.

La respuesta empresarial

En lugar de esperar la regulación obligatoria que OpenAI está promoviendo, las empresas deberían autorregularse adoptando algunos de los requisitos que los estados comienzan a promulgar; por ejemplo, una evaluación independiente en sus procesos de adquisición a terceros, según Kornutick.

Para los líderes empresariales, esto convierte el debate de políticas en un asunto inmediato de gobernanza: pueden hacer seguimiento de los requisitos estatales emergentes, evaluar de forma independiente los modelos de terceros y documentar controles mientras legisladores y proveedores trabajan en estándares de seguridad más amplios.

“Por lo tanto, la regulación ayuda, pero a menudo no es la solución definitiva, y las empresas deberían pensar para qué están utilizando los modelos de frontera. ¿Necesitan usarlos para todo en cada uno de sus usos de IA? Entonces, ¿dónde pueden obtener el mayor valor?”, dijo.

Las empresas también pueden ejercer presión y trabajar con los legisladores, señaló Kornutick.

“Si su organización tiene la capacidad de ejercer presión, trabajar con legisladores y plantear directamente sus preocupaciones a los proveedores de modelos…, háganlo”, dijo. “Pero, al mismo tiempo, deben tener bajo control aquello que sí pueden controlar, que son los pilares de buenas prácticas de gobernanza de la IA, los datos y la ciberseguridad. Así tendrán la base adecuada para preparar su organización para los cambios futuros”.

Otra razón para regular

El llamado de OpenAI a una regulación federal —y el respaldo de los proveedores a leyes como la de California— podría ser algo más que una respuesta al debate actual sobre el riesgo de la IA. También podría ser una estrategia para adelantarse a la temporada electoral y mantener una buena imagen ante el público, dado que la opinión pública se ha vuelto contra la IA y los centros de datos de IA.

Aun así, Bennett dijo que es posible imaginar un nuevo conjunto de políticas y regulaciones en el que el apoyo a la tecnología y a la seguridad coexistan.

“Eso apoyaría el desarrollo al mismo tiempo que contamos con los mejores protocolos y salvaguardas de seguridad”, afirmó. “Serían equipos humanos de IA que utilizarían la tecnología para ayudar a diseñar de forma óptima nuevas regulaciones”.

Una agencia independiente

Aunque la regulación es necesaria, no resolverá todos los problemas de seguridad de la IA, especialmente porque muchos reguladores todavía no entienden los sistemas, dijo Kompella.

“Gran parte del conocimiento profundo sobre cómo se construyen los sistemas de frontera y cómo se comportan permanece concentrado en un pequeño número de empresas y grupos de investigación”, continuó. “Por lo tanto, los reguladores enfrentan la difícil tarea de regular una tecnología que es técnicamente compleja, cambia con extrema rapidez y se desarrolla en gran medida fuera del gobierno”.

Sostuvo que debería existir una institución con profundidad técnica e independencia —similar a NASA o DARPA— que examine y evalúe continuamente estos asuntos y proporcione a los responsables de políticas asesoría que las propias empresas de IA no puedan influir.

“La respuesta más sólida a corto plazo es un marco federal bipartidista respaldado por una institución con gran capacidad técnica e independencia”, afirmó Kompella. “Debe ser lo suficientemente fuerte para cuestionar a los laboratorios de frontera, pero también lo suficientemente sofisticada técnicamente para no regular desde el miedo ni congelar el progreso tecnológico. Además, debe poder avanzar considerablemente más rápido que las instituciones regulatorias tradicionales”.

Por su parte, las empresas probablemente no necesitan dedicar mucho tiempo a preocuparse por el riesgo existencial de la IA, pero sí deberían conocerlo, afirmó Kornutick.

“Las organizaciones realmente deben examinar el riesgo que tienen frente a ellas, es decir, cuáles son las brechas dentro de su infraestructura y arquitectura”, dijo. “En este momento, eso podría representar un problema real que están pasando por alto”.

---

Este artículo se basa en la cobertura de Esther Shittu para AI Business, publicada el 10 de septiembre de 2026. Fuente: La crisis de seguridad de la IA y cómo deberían enfrentarla las empresas