Google ha revelado un agente de inteligencia artificial interno—software que persigue objetivos de múltiples pasos con una supervisión humana mínima—con un mandato inusual: entrar por la fuerza en Google. El sistema, construido por el equipo de Seguridad de Producto de la compañía y llamado PageBreak, busca de forma autónoma vulnerabilidades reales y explotables en las aplicaciones web propias de Google—y ya ha descubierto más de 500 errores.

A diferencia de los escáneres típicos impulsados por IA, PageBreak se niega a señalar una vulnerabilidad hasta haberla confirmado con un exploit funcional contra un entorno en vivo, una disciplina que le otorga al agente una tasa de falsos positivos cercana a cero. Google planea emparejar el agente de descubrimiento con CodeMender, su sistema automatizado de corrección de errores, para que las fallas confirmadas lleguen junto con correcciones propuestas.

La compañía reveló el sistema el 24 de septiembre en una entrada de blog del ingeniero de seguridad de la información Michał Bentkowski. La propuesta es simple: un hacker de IA que no grita "¡lobo!".

"PageBreak es un agente de IA interno del equipo de Seguridad de Producto de Google, desarrollado para probar la seguridad de nuestras aplicaciones web de primera parte y abordar este desafío", dijo Google. "Comenzando como un piloto en noviembre de 2025 y convirtiéndose en un proyecto pleno en enero de 2026, su misión es escalar de manera autónoma el descubrimiento de vulnerabilidades mientras minimiza el trabajo manual".

La distinción importa más de lo que pudiera parecer. Los equipos de seguridad de toda la industria han pasado los últimos años, según Google, ahogados en "AI slop"—una avalancha de informes de errores generados por IA de baja calidad que parecen plausibles pero que resultan ser nada. "Distinguir una falla genuina y explotable de una alucinación convincente se ha convertido en un desafío importante", escribió Google. Pídele a cualquier modelo de IA que encuentre un agujero de seguridad y, por lo general, encontrará uno; si ese agero realmente existe es una pregunta completamente distinta. Cada pista no verificada cuesta horas de ingenieros persiguiendo informes que se desvanecen bajo escrutinio.

PageBreak está diseñado para responder esa pregunta antes de que un humano vea el informe. Cuando el agente, que está construido sobre los modelos Gemini de Google, detecta una posible falla, entrega la hipótesis a un validador especializado que intenta explotarla contra una copia en vivo y en funcionamiento de la aplicación.

El enfoque ya ha dado resultados. PageBreak ha destapado más de 500 vulnerabilidades de cross-site scripting (XSS) en las aplicaciones web de primera parte de Google, una clase de falla que puede permitir a un atacante secuestrar una sesión iniciada, robar datos o suplantar a un usuario en un sitio web que usa todos los días. XSS es una de las clases de vulnerabilidades más antiguas de la seguridad web, una que ha estado cerca de la cima de las clasificaciones de riesgo de la industria durante años. Cuando se apuntó a aplicaciones construidas sobre los más nuevos marcos web de "alta garantía" de Google, diseñados para hacer estructuralmente imposibles clases enteras de errores, el agente solo encontró dos. Esa brecha es la evidencia propia de Google de que construir software más seguro desde cero funciona mejor que parchar agujeros después del hecho.

Lo que está en juego en torno a la IA y la seguridad ha ido en aumento todo el año. En agosto, más de 100 organizaciones—incluyendo Google, Microsoft y Anthropic—firmaron una carta abierta advirtiendo que los ciberataques habilitados por IA son cada vez más comunes, después de que se descubriera que agentes de IA de OpenAI y Anthropic habían violado empresas reales durante pruebas. Desde entonces, un agente de IA configurado por OpenAI hackeó el gobierno de Australia, y los reportes de otros ataques no se han detenido.

PageBreak está en el otro lado de esa misma moneda: en lugar de una IA que causa una violación, es una IA que corre para atrapar los errores antes que alguien más. Tampoco es la primera vez que Google se enfrenta a este problema—la compañía anteriormente tuvo que parchar una de sus propias herramientas de codificación con IA después de que una falla permitiera a atacantes ejecutar código malicioso a través de ella.

Google dice que PageBreak se apoya en ventajas que la mayoría de las compañías no tienen, incluyendo un repositorio de código único y unificado que abarca miles de millones de líneas y años de infraestructura de escaneo interno acumulada, por lo que una startup pequeña no puede simplemente copiar el enfoque.

El siguiente paso es conectar PageBreak con CodeMender, el agente automatizado de redacción de parches de Google. Una vez vinculados, una vulnerabilidad confirmada puede llegar con una corrección propuesta ya adjunta, dejando a los ingenieros revisarla y aprobarla en lugar de empezar desde cero. Si esa entrega puede comprimir el camino desde el error confirmado hasta la corrección enviada es el próximo hito que vale la pena observar.

Fuente: Decrypt