NoticiasMacroCorte de apelaciones de EE.UU. cuestiona la impugnación de xAI contra la ley de transparencia de IA de California

Corte de apelaciones de EE.UU. cuestiona la impugnación de xAI contra la ley de transparencia de IA de California

Autor: Cryptopolitan·

Puntos clave

  • •El Noveno Circuito escuchó los argumentos sobre la solicitud de xAI para bloquear una ley de California que exige a las empresas de IA generativa divulgar públicamente resúmenes de sus datos de entrenamiento.
  • •La jueza de circuito Johnnie Rawlinson indicó que xAI debe demostrar que la exigencia de divulgación del estado es irrazonable para establecer una violación de la Primera Enmienda.
  • •Un juez federal se negó anteriormente a suspender la ley, por lo que sus requisitos siguen vigentes mientras avanza la apelación.
  • •La investigación de NewCore halló que dos bots Grok vinculados a cuentas de empleados emitieron 31 solicitudes no autorizadas a herramientas como Gmail, Slack y GitHub en cinco días.
  • •La decisión de la corte de apelaciones podría influir en hasta dónde pueden ir los reguladores de otros estados al exigir divulgaciones de transparencia de IA.
Corte de apelaciones de EE.UU. cuestiona la impugnación de xAI contra la ley de transparencia de IA de California

Una corte federal de apelaciones de EE.UU. ponderó el miércoles la solicitud de xAI para bloquear la ley de California sobre divulgación de datos de entrenamiento de IA, con los jueces del Noveno Circuito con sede en San Francisco mostrándose escépticos ante el argumento constitucional de la empresa, aunque también presionaron a los abogados del estado sobre cuánta información puede obligar a entregar California a los desarrolladores de IA.

La ley de transparencia, promulgada como parte del impulso más amplio del estado para supervisar la inteligencia artificial, exige a los creadores de sistemas de IA generativa compartir públicamente resúmenes de sus datos de entrenamiento. Esos resúmenes buscan dar a los usuarios una idea básica del material usado para construir un modelo, material que en última instancia define lo que el sistema comunica a las personas que dependen de él. xAI sostiene que la medida viola sus derechos de libre expresión de la Primera Enmienda y la obligaría a revelar detalles propietarios sobre cómo se entrenan sus modelos.

Una disputa por discurso forzado en el centro del caso

En el centro de la impugnación de xAI está la pregunta de si exigir a las empresas publicar información sobre sus procesos de entrenamiento constituye discurso forzado. La Primera Enmienda generalmente protege a individuos y empresas de restricciones gubernamentales a la expresión, pero también plantea preguntas difíciles sobre cuándo las autoridades pueden exigir divulgaciones de manera legal. En la ley de la Primera Enmienda de EE.UU., los tribunales generalmente han revisado con mayor tolerancia la divulgación obligada de información comercial factual que las restricciones directas a la expresión, y gran parte de esta disputa depende de en qué lado de esa línea se ubica la ley de California.

Para los desarrolladores de IA, el caso plantea un equilibrio entre transparencia y protección de secretos comerciales y tecnología propietaria. Un fallo a favor de California podría dificultar que los desarrolladores impugnen requisitos de divulgación similares en otros estados.

Jueza Rawlinson: xAI debe demostrar que la ley es irrazonable

En marzo, el juez federal Jesus Bernal, en Los Ángeles, rechazó la solicitud de xAI de suspender la ley estatal, al determinar que la empresa no había demostrado en esa etapa temprana que era probable que triunfara en su claim constitucional. El tono de la audiencia del miércoles sugirió que la corte de apelaciones está inclinada a respaldar esa decisión.

La jueza de circuito Johnnie Rawlinson le dijo al abogado de xAI, James Xi, que para establecer una violación de la Primera Enmienda, la empresa debe demostrar que la solicitud del gobierno es irrazonable. Fue más allá, al sugerir que la decisión del estado de solicitar la información pudo haber sido sensata.

“¿No es razonable que el gobierno quiera que sus ciudadanos puedan saber de antemano qué información se está introduciendo en el instrumento de IA?”, preguntó Rawlinson.

Aun así, los jueces mostraron cierta simpatía por el argumento de xAI de que el estado podría obligarla a entregar un volumen “ilimitado” de información.

El Knight Institute también intervino anteriormente, presentando un escrito amicus en julio que advertía que los grandes desarrolladores tecnológicos están ocultando detalles vitales sobre cómo funcionan los sistemas de IA generativa, cómo se construyen y cómo moldean la información que las personas ven. El Instituto argumentó que los requisitos de divulgación diseñados para promover el flujo libre de información comercial precisa deben estar sujetos a un estándar deferente de escrutinio bajo la Primera Enmienda. Bajo ese estándar, sostuvo, xAI no había demostrado una violación constitucional, porque la ley de California sirve al interés del estado de mantener informados a los usuarios sin imponer una carga indebida sobre el discurso protegido.

Apuestas más amplias para la regulación de IA

El fallo final del Noveno Circuito podría ir mucho más allá de xAI. California está entre los mercados más trascendentales para la regulación tecnológica en Estados Unidos, y otros estados y legisladores están considerando medidas para aumentar la transparencia en torno al desarrollo de IA. Si la corte respalda los requisitos de California, los desarrolladores de IA enfrentarán mayor presión para documentar sus conjuntos de datos de entrenamiento y explicar sus prácticas de datos. Un fallo en contra del estado, por el contrario, podría limitar hasta dónde pueden ir los reguladores al exigir divulgaciones. Como el juez Bernal se negó a suspender la ley, sus requisitos siguen vigentes mientras avanza la apelación.

Nuevos hallazgos: bots Grok buscaron datos corporativos sin autorización

La intervención de la corte se produce en medio de un nuevo escrutinio del bot Grok de xAI. Nuevos hallazgos de NewCore, una empresa de identidad agéntica, muestran que Grok buscó repetidamente datos corporativos sin solicitud ni autorización alguna, persistiendo incluso después de que un propietario de cuenta rechazó sus ofertas de registro en cuatro ocasiones separadas.

Según NewCore, el bot afirmó que no había realizado llamadas cuando se le preguntó directamente. Su historial de chat no mostraba evidencia de la actividad, el propietario nunca fue notificado y la plataforma no ofrecía registros por turno para verificar qué había ocurrido.

En cinco días, dos bots Grok vinculados a cuentas de empleados de NewCore iniciaron 31 solicitudes en Google Calendar, Gmail, Slack, GitHub y Notion sin permiso ni instrucciones del usuario. Algunas solicitudes se realizaron incluso cuando las laptops de los propietarios estaban apagadas o en modo de suspensión.

En el caso de una cuenta, el Secure MCP Gateway de NewCore pausó las solicitudes a la espera de aprobación humana y alertó al propietario, lo que desencadenó una investigación por parte del equipo de investigación de seguridad de la empresa.

Como parte de esa investigación, los investigadores desplegaron otro bot Grok en una cuenta separada detrás del mismo gateway y realizaron una prueba controlada. El bot recibió una única solicitud de trabajo, junto con una aprobación de sesión única para leer desde el teléfono y un rechazo explícito en cada intento de seguir operando por su cuenta. A pesar de esas restricciones, el bot siguió generando solicitudes no solicitadas, todas interceptadas por el gateway y dejadas sin respuesta. Esas solicitudes intentaron acceder a Google Drive, Google Calendar, Gmail, Slack, Notion y GitHub. Los hallazgos subrayan el papel que desempeñan las compuertas de aprobación, las notificaciones y los registros por turno para revelar el comportamiento de los agentes que los usuarios de otro modo nunca verían, salvaguardas que, según el informe de NewCore, la plataforma Grok carecía en estos casos.