La carrera global por desarrollar una inteligencia artificial más avanzada se ha planteado en gran medida como una competencia de capacidad, definida por quién puede construir el modelo más inteligente, desplegar los agentes más capaces y llegar primero a la próxima frontera. Pero la ciberseguridad está mostrando por qué la capacidad es solo una parte de la ecuación, escribe Richard Ireland, CEO de GovWare, en un comentario para BusinessWorld.

La IA está aumentando la velocidad con la que se pueden identificar vulnerabilidades, lanzar ataques y tomar acciones defensivas, y una inversión significativa no elimina la exposición. Una investigación reciente encontró que, si bien el 83% de los líderes de ciberseguridad están aumentando el gasto, casi 9 de cada 10 organizaciones experimentaron ciberataques en el último año.

El desafío se extiende cada vez más allá de las defensas de una sola organización hasta las conexiones entre ellas. Una empresa puede invertir fuertemente en sus propias defensas, un gobierno puede fortalecer las salvaguardas nacionales y un proveedor de tecnología puede introducir controles más estrictos. Sin embargo, los sistemas digitales modernos dependen de infraestructura interconectada, proveedores, plataformas en la nube y servicios que rara vez se encuentran dentro de una sola organización o jurisdicción. A medida que la actividad cibernética se acelera y se vuelve más autónoma, la capacidad de coordinarse a través de esas fronteras puede volverse tan importante como la capacidad de defenderse dentro de ellas.

Cuando la velocidad de las máquinas se encuentra con las fronteras organizacionales

Los sistemas agénticos elevan el riesgo porque pueden pasar de la señal a la decisión y a la acción con menos intervención humana. El desaf no es solo cuánta autoridad otorgan las organizaciones a los agentes de IA, sino qué sucede cuando sus acciones trascienden las fronteras organizacionales hacia sistemas, datos e infraestructura controlados por otros.

Los agentes de IA también forman parte de un universo creciente de identidades no humanas, desde aplicaciones y servicios automatizados hasta cuentas de máquinas que interactúan en entornos digitales. A medida que aumenta su autonomía, las organizaciones necesitan límites más claros sobre a qué pueden acceder, qué acciones pueden tomar y dónde sigue siendo necesaria la intervención humana.

La rendición de cuentas se vuelve más difícil cuando la actividad cruza fronteras organizacionales. Diferentes organizaciones pueden operar bajo distintos controles, regulaciones y umbrales de riesgo, incluso cuando sus sistemas dependen entre sí. A la velocidad de las máquinas, detectar un problema es solo una parte de la respuesta. La rapidez con la que se puede compartir la información, establecer la responsabilidad y tomar acciones coordinadas se vuelve igual de importante.

La propia carrera de la IA ofrece una lección útil. Anthropic ha manifestado su apertura a una pausa global coordinada en el desarrollo de IA avanzada si los competidores hacen lo mismo. De manera similar, el científico principal de OpenAI ha advertido que la IA está avanzando tan rápidamente que se vuelve cada vez más difícil para los humanos entenderla y controlarla, y espera que los laboratorios de IA líderes reduzcan voluntariamente el desarrollo por razones de seguridad. En conjunto, estas señales apuntan a un desafío que va más allá de una sola empresa: en un entorno competitivo, ejercer mayor precaución se vuelve más difícil si otros continúan avanzando.

La ciberseguridad enfrenta una versión del mismo desafío. Las organizaciones individuales pueden fortalecer su propia postura, pero los riesgos compartidos requieren una preparación compartida.

El riesgo cibernético no se detiene en las fronteras organizacionales

La ciberseguridad ha evolucionado de una preocupación tecnológica especializada a un asunto de toda la economía que conecta la continuidad del negocio, la infraestructura crítica, las cadenas de suministro, los sistemas financieros y la confianza pública, y la IA agéntica está acelerando esa evolución. Las defensas organizacionales sólidas siguen siendo esenciales, pero no pueden abordar por completo los riesgos que se propagan a través de infraestructura compartida, terceros o ecosistemas tecnológicos transfronterizos. Un proveedor comprometido, un servicio en la nube compartido o un proveedor de tecnología crítico pueden afectar a organizaciones con poco control directo sobre el origen de un incidente. A medida que estas dependencias se profundizan, la resiliencia depende cada vez más de la rapidez con la que las organizaciones pueden intercambiar información y coordinar una respuesta.

Lo mismo aplica a nivel nacional. La ministra de Desarrollo Digital e Información de Singapur, Josephine Teo, señaló a principios de este año que los modelos de IA más avanzados se desarrollan en solo un puñado de países, mientras que la cooperación en seguridad de la IA sigue siendo limitada. Sin embargo, las tecnologías y sus riesgos potenciales trascienden las fronteras.

Para Asia, el desafío de la coordinación particularmente importante. La región abarca economías con diferentes entornos regulatorios, niveles de madurez digital, infraestructura y preparación cibernética. No existe un único entorno operativo, pero un incidente que se origine en un mercado o en parte de una cadena de suministro puede tener consecuencias en otros lugares.

Construyendo la preparación antes de una crisis

Singapur tiene un papel importante que desempeñar para facilitar estos intercambios. Su capacidad para reunir a gobiernos, empresas tecnológicas globales, negocios y profesionales permite que se escuchen perspectivas que no siempre comparten la misma mesa. La Semana Internacional de la Ciberseguridad de Singapur y GovWare ofrecen oportunidades para estas conversaciones, ya que la seguridad de la IA, la rendición de cuentas y el riesgo transfronterizo requieren cada vez más perspectivas tanto del sector público como del privado.

La convocatoria importa no porque algún foro tenga todas las respuestas, sino porque la preparación colectiva debe construirse antes de que una crisis la exija. Los gobiernos, las empresas y los proveedores de tecnología necesitarán una mayor alineación sobre cómo se comparten los riesgos, cuándo la información debe cruzar las fronteras organizacionales y dónde la cooperación debe tener prioridad sobre la competencia. Esa misma agenda ofrece un conjunto concreto de indicadores a observar: si la información cruza las fronteras organizacionales con mayor facilidad cuando ocurren incidentes, si las expectativas comunes sobre a qué pueden acceder los agentes de IA, qué acciones pueden tomar y dónde sigue siendo necesaria la supervisión humana toman forma en las distintas industrias y jurisdicciones, y si la voluntad declarada de los laboratorios de IA líderes de reducir conjuntamente el desarrollo evoluciona de la declaración a la práctica.

La competencia sigue siendo un motor importante de la innovación en IA, pero el progreso en capacidad debe acompañarse de avances en las salvaguardas, las relaciones y los mecanismos de cooperación necesarios para desplegar esas capacidades de manera responsable. A medida que la actividad cibernética se mueve a velocidad agéntica, la coordinación no puede comenzar solo después de que algo sale mal.

La próxima carrera de la IA no solo probará quién puede construir los sistemas más capaces. También probará si las instituciones y las relaciones en torno a ellos pueden moverse lo suficientemente rápido para mantener el ritmo.

Richard Ireland es el CEO de GovWare. Este comentario fue publicado por primera vez por BusinessWorld.