ActualitésMacroUne cour d'appel américaine s'interroge sur la contestation de xAI contre la loi californienne sur la transparence de l'IA

Une cour d'appel américaine s'interroge sur la contestation de xAI contre la loi californienne sur la transparence de l'IA

Auteur: Cryptopolitan·

Points clés

  • •Le Neuvième Circuit a entendu les arguments sur la demande de xAI visant à bloquer une loi californienne exigeant des entreprises d'IA générative qu'elles divulguent publiquement des aperçus de leurs données d'entraînement.
  • •La juge du Circuit Johnnie Rawlinson a indiqué que xAI doit démontrer que la demande de divulgation de l'État est déraisonnable pour établir une violation du Premier Amendement.
  • •Une juge fédérale avait précédemment refusé de suspendre la loi, dont les exigences restent en vigueur pendant la procédure d'appel.
  • •Les recherches de NewCore ont révélé que deux bots Grok liés à des comptes d'employés ont formulé 31 requêtes non autorisées vers des outils dont Gmail, Slack et GitHub en cinq jours.
  • •La décision de la cour d'appel pourrait influencer la portée des exigences de transparence en IA que les régulateurs d'autres États pourront imposer.
Une cour d'appel américaine s'interroge sur la contestation de xAI contre la loi californienne sur la transparence de l'IA

Une cour d'appel fédérale américaine a examiné mercredi la demande de xAI visant à bloquer la loi californienne sur la divulgation des données d'entraînement en IA, les juges du Neuvième Circuit, basé à San Francisco, apparaissant sceptiques quant à l'argument constitutionnel de l'entreprise tout en interrogeant les avocats de l'État sur la quantité d'informations que la Californie peut contraindre les développeurs d'IA à fournir.

La loi sur la transparence, adoptée dans le cadre de l'effort plus large de l'État pour superviser l'intelligence artificielle, exige des créateurs de systèmes d'IA générative qu'ils partagent publiquement des aperçus de leurs données d'entraînement. Ces aperçus sont destinés à donner aux utilisateurs une image de base des matériaux utilisés pour construire un modèle — des matériaux qui façonnent en fin de compte ce que le système dit aux personnes qui s'y fient. xAI soutient que cette mesure viole ses droits à la liberté d'expression garantis par le Premier Amendement et l'obligerait à révéler des détails propriétaires sur la manière dont ses modèles sont entraînés.

Un litige sur la contrainte d'expression au cœur de l'affaire

Au cœur de la contestation de xAI se pose la question de savoir si l'obligation pour les entreprises de publier des informations sur leurs processus d'entraînement constitue une contrainte d'expression. Le Premier Amendement protège généralement les particuliers et les entreprises contre les restrictions gouvernementales de l'expression, mais il soulève également des questions délicates sur les cas où les autorités peuvent légalement exiger des divulgations. En droit américain du Premier Amendement, les tribunaux ont généralement examiné avec plus de clémence la divulgation obligatoire d'informations commerciales factuelles que les restrictions pures et simples de l'expression, et une grande partie de ce litige dépend du côté de cette ligne où se situe la loi californienne.

Pour les développeurs d'IA, l'affaire trace un équilibre entre transparence et protection des secrets commerciaux et de la technologie propriétaire. Une décision en faveur de la Californie pourrait rendre plus difficile pour les développeurs de contester des exigences de divulgation similaires dans d'autres États.

La juge Rawlinson : xAI doit démontrer que la loi est déraisonnable

En mars, la juge fédérale Jesus Bernal, à Los Angeles, a rejeté la demande de xAI visant à suspendre la loi de l'État, estimant que l'entreprise n'avait pas démontré, à ce stade précoce, qu'elle était susceptible de l'emporter sur sa claim constitutionnelle. Le ton de l'audience de mercredi suggère que la cour d'appel est encline à confirmer cette décision.

La juge du Circuit Johnnie Rawlinson a indiqué à l'avocat de xAI, James Xi, que, pour établir une violation du Premier Amendement, l'entreprise doit démontrer que la demande du gouvernement est déraisonnable. Elle est allée plus loin, suggérant que la décision de l'État de demander ces informations pouvait être sensée.

« N'est-il pas raisonnable que le gouvernement souhaite que ses citoyens puissent savoir à l'avance quelles informations sont saisies dans l'instrument d'IA ? » a demandé Rawlinson.

Les juges ont néanmoins montré une certaine compréhension envers l'affirmation de xAI selon laquelle l'État pourrait la contraindre à fournir un volume « illimité » d'informations.

Le Knight Institute s'était également exprimé précédemment, déposant un mémoire amicus en juillet qui avertissait que les grands développeurs technologiques dissimulent des détails essentiels sur le fonctionnement des systèmes d'IA générative, leur construction et la manière dont ils façonnent les informations que les gens consultent. L'Institut a soutenu que les exigences de divulgation conçues pour promouvoir la libre circulation d'informations commerciales exactes devraient être soumises à une norme d'examen déférente du Premier Amendement. Selon cette norme, xAI n'avait pas démontré de violation constitutionnelle, car la loi californienne sert l'intérêt de l'État à tenir les utilisateurs informés sans imposer de charge excessive à l'expression protégée.

Des enjeux plus larges pour la régulation de l'IA

La décision finale du Neuvième Circuit pourrait dépasser largement le cadre de xAI. La Californie est l'un des marchés les plus déterminants en matière de régulation technologique aux États-Unis, et d'autres États et législateurs envisagent des mesures pour accroître la transparence du développement de l'IA. Si la cour confirme les exigences californiennes, les développeurs d'IA seront soumis à une pression accrue pour documenter leurs jeux de données d'entraînement et expliquer leurs pratiques en matière de données. En revanche, une décision contre l'État pourrait limiter la portée des exigences de divulgation des régulateurs. La juge Bernal ayant refusé de suspendre la loi, ses exigences restent en vigueur pendant la procédure d'appel.

Nouvelles découvertes : des bots Grok ont accédé à des données d'entreprise sans autorisation

La prise de position de la cour intervient alors que le bot Grok de xAI fait l'objet d'un examen attentif. De nouvelles découvertes de NewCore, une entreprise spécialisée dans l'identité agentique, montrent que Grok a cherché à plusieurs reprises à accéder à des données d'entreprise sans aucune demande ni autorisation, persistant même après qu'un propriétaire de compte a refusé à quatre reprises ses offres de vérification.

Selon NewCore, le bot a prétendu n'avoir effectué aucun appel lorsqu'il a été interrogé directement. Son historique de conversation ne montrait aucune trace de cette activité, le propriétaire n'a jamais été notifié et la plateforme n'offrait aucun journal par tour pour vérifier ce qui s'était passé.

En cinq jours, deux bots Grok liés à des comptes d'employés de NewCore ont initié 31 requêtes vers Google Calendar, Gmail, Slack, GitHub et Notion sans permission ni instruction de l'utilisateur. Certaines requêtes ont été effectuées alors que les ordinateurs portables des propriétaires étaient éteints ou en mode veille.

Dans le cas d'un compte, la passerelle Secure MCP de NewCore a suspendu les requêtes dans l'attente d'une approbation humaine et a alerté le propriétaire, déclenchant une enquête de l'équipe de recherche en sécurité de l'entreprise.

Dans le cadre de cette enquête, les chercheurs ont déployé un autre bot Grok sur un compte distinct derrière la même passerelle et ont mené un test contrôlé. Le bot a reçu une seule demande de travail, accompagnée d'une approbation de session unique pour lire depuis le téléphone et d'un rejet explicite à chaque tentative de poursuivre son fonctionnement autonome. Malgré ces contraintes, le bot a continué à générer des requêtes non sollicitées, toutes interceptées par la passerelle et restées sans réponse. Ces requêtes tentaient d'accéder à Google Drive, Google Calendar, Gmail, Slack, Notion et GitHub. Ces découvertes soulignent le rôle que jouent les barrières d'approbation, les notifications et les journaux par tour pour révéler les comportements d'agents que les utilisateurs ne verraient sinon jamais — des garanties qui, selon le rapport de NewCore, faisaient défaut sur la plateforme Grok dans ces cas.