California lleva la gobernanza de la IA hacia la verificación independiente

Las nuevas leyes de auditoría de IA de California apuntan a un cambio: las empresas ya no solo harán sus propias afirmaciones de seguridad, sino que deberán demostrar esas afirmaciones mediante revisiones independientes.

11 de septiembre de 2026

Durante años, las empresas que desarrollan inteligencia artificial han sido, en gran medida, responsables de evaluar la seguridad de sus propios sistemas. California está comenzando a cambiar ese enfoque.

El gobernador de California, Gavin Newsom, firmó esta semana dos leyes que sientan las bases para auditorías independientes de terceros sobre sistemas de IA. Las leyes establecen un marco para auditorías independientes, incluido el proceso mediante el cual organizaciones externas pueden evaluar el cumplimiento de los sistemas de IA con la legislación estatal. También fijan estándares de independencia, transparencia e integridad para los auditores.

La legislación es resultado de varios años de desarrollo de políticas de IA en California. En 2023, Newsom emitió una orden ejecutiva que estableció lineamientos para el uso de IA generativa por parte del estado. En 2024, el estado adoptó un paquete más amplio de legislación sobre IA que abordó asuntos como los deepfakes, las marcas de agua, los niños y los trabajadores. El año pasado, California promulgó la Ley de Transparencia en Inteligencia Artificial de Frontera, que exige a los desarrolladores de IA de frontera divulgar públicamente sus marcos de seguridad y reportar ciertos incidentes críticos de seguridad.

El momento es relevante, ya que los sistemas de frontera se comportan cada vez más de maneras que sus desarrolladores no anticiparon ni autorizaron.

OpenAI reconoció esta semana que más de sus agentes se desviaron en mayo, evadiendo las restricciones del sandbox y realizando acciones no autorizadas en varios sitios web. Inicialmente, la empresa no reconoció su participación en uno de los incidentes, pero después confirmó que sus agentes habían escrito en varios sitios de internet. El episodio pone de relieve un desafío más amplio a medida que los sistemas de IA se vuelven más autónomos: los desarrolladores siguen siendo, en gran medida, responsables de investigar y explicar el comportamiento de sus sistemas.

Anthropic expresó una preocupación similar esta semana y pidió un “esfuerzo verificable” para regular el ritmo del desarrollo de la IA de frontera, después de un incidente ocurrido en julio en el que su modelo Claude Mythos evadió las medidas de seguridad. La propuesta refleja un reconocimiento cada vez mayor de que las medidas de seguridad de la IA quizá deban demostrarse en lugar de simplemente prometerse.

Implicaciones para las empresas

Las auditorías de terceros no son solo una cuestión de que los reguladores supervisen a las empresas de IA. Para las empresas, las auditorías independientes podrían proporcionar otra capa de debida diligencia al evaluar proveedores de IA, especialmente a medida que los sistemas autónomos asumen más responsabilidades dentro de las organizaciones.

Esto podría adquirir mayor importancia conforme las empresas den a los sistemas de IA acceso a datos confidenciales, aplicaciones y flujos de trabajo. Si la evaluación independiente se vuelve más común, las empresas que adopten IA podrían obtener evidencia externa sobre si las afirmaciones de los proveedores acerca de la seguridad, la protección y la gobernanza se sostienen.

Por lo tanto, la próxima fase de la gobernanza de la IA podría centrarse menos en lo que las empresas prometen y más en lo que pueden demostrar.

También en las noticias de IA de esta semana

• Qualcomm fabricará chips personalizados para Amazon como parte de un acuerdo de $4B: El fabricante de chips cerró un importante acuerdo con Amazon para desarrollar chips personalizados de IA y para centros de datos, con lo que suma otro cliente hyperscaler mientras amplía su presencia en la infraestructura de IA. Fuente

• John Deere obtiene información de sus datos con nueva tecnología de IA: El gigante agrícola está incorporando IA generativa a su plataforma de gestión agrícola, ayudando a los productores a convertir los datos de equipos y operaciones en decisiones prácticas sobre siembra, cosecha y desempeño de las máquinas. Fuente

• Dell enfrenta una creciente escasez de suministros mientras persiste la fuerte demanda de IA: La empresa tecnológica multinacional enfrenta una creciente escasez de suministros, ya que la demanda de IA presiona no solo a la memoria, el almacenamiento y las CPU, sino también a los componentes de refrigeración, redes y energía necesarios para construir sistemas de IA completos. Fuente

• La startup de programación con IA Cognition alcanza una valuación de $48B: El proveedor de herramientas de programación con IA recaudó $2 mil millones con una valuación de $48 mil millones, mientras continúa el entusiasmo de los inversionistas por las herramientas de programación con IA. Fuente

• Google invertirá $15B en la infraestructura de IA de Finlandia: El gigante de las búsquedas y la IA planea invertir $15 mil millones en la infraestructura de IA de Finlandia y ampliar su presencia de centros de datos, mientras crece la demanda de capacidad informática para IA. Fuente

• Dentro de la campaña sindical de trabajadores de Google AI para promover la ética empresarial: Los empleados de Google DeepMind buscan sindicalizarse debido a preocupaciones éticas sobre el uso militar de las tecnologías de IA y nube de la empresa. Fuente

• Los grupos de amenazas mejoran sus capacidades de ciberataque con IA: Los hackers vinculados con gobiernos y los delincuentes utilizan cada vez más la IA y la automatización para ampliar la escala de sus ataques, encontrar nuevos objetivos y evadir las defensas tradicionales. Fuente

• Simposio de IA de AWS: exalumnos de TeenTech piden alfabetización en IA en las escuelas: Los exalumnos de la organización sin fines de lucro piden una mayor alfabetización en IA en las escuelas, mientras la escasez de habilidades sigue siendo una barrera importante para la adopción de la IA. Fuente