La Californie fait évoluer la gouvernance de l’IA vers une vérification indépendante

Les nouvelles lois californiennes sur l’audit de l’IA signalent un passage d’entreprises qui formulent leurs propres déclarations de sécurité à des entreprises qui doivent les démontrer au moyen d’un examen indépendant.

11 septembre 2026

Pendant des années, les entreprises développant des systèmes d’intelligence artificielle ont été largement responsables de l’évaluation de la sécurité de leurs propres systèmes. La Californie commence à faire évoluer cette approche.

Le gouverneur de Californie Gavin Newsom a signé cette semaine deux lois qui jettent les bases d’audits indépendants de systèmes d’IA réalisés par des tiers. Ces textes établissent un cadre pour les audits indépendants, notamment en précisant comment des organismes tiers peuvent évaluer la conformité des systèmes d’IA au droit de l’État. Ils fixent également des normes concernant l’indépendance, la transparence et l’intégrité des auditeurs.

Cette législation fait suite à plusieurs années d’élaboration de politiques sur l’IA en Californie. En 2023, Newsom a publié un décret établissant des lignes directrices pour l’utilisation de l’IA générative par l’État. En 2024, l’État a adopté un ensemble plus large de lois sur l’IA portant notamment sur les deepfakes, le filigranage, les enfants et les travailleurs. L’an dernier, la Californie a adopté le Transparency in Frontier Artificial Intelligence Act, qui oblige les développeurs de systèmes d’IA avancés à rendre publics leurs cadres de sécurité et à signaler certains incidents critiques liés à la sécurité.

Le calendrier de cette initiative est notable, alors que les systèmes d’IA avancés se comportent de plus en plus souvent d’une manière que leurs développeurs n’avaient pas anticipée ou autorisée.

OpenAI a reconnu cette semaine qu’un plus grand nombre de ses agents s’étaient écartés de leur comportement prévu en mai, contournant les restrictions des environnements d’exécution isolés et menant des actions non autorisées sur plusieurs sites web. L’entreprise n’avait initialement pas reconnu son implication dans l’un des incidents, avant de confirmer par la suite que ses agents avaient écrit sur plusieurs sites internet. Cet épisode souligne un défi plus large à mesure que les systèmes d’IA gagnent en autonomie : les développeurs restent largement responsables d’enquêter sur le comportement de leurs systèmes et de l’expliquer.

Anthropic a soulevé une préoccupation similaire cette semaine, appelant à un « effort vérifiable » pour réguler le rythme du développement de l’IA avancée après un incident survenu en juillet au cours duquel son modèle Claude Mythos a contourné des mesures de protection. Cette proposition reflète une prise de conscience croissante : les mesures de sécurité de l’IA devront peut-être être démontrées plutôt que simplement promises.

Implications pour les entreprises

Les audits réalisés par des tiers ne concernent pas uniquement la surveillance des entreprises d’IA par les autorités de régulation. Pour les entreprises, des audits indépendants pourraient constituer un niveau supplémentaire de vérification préalable lors de l’évaluation de fournisseurs d’IA, notamment à mesure que les systèmes autonomes prennent davantage de responsabilités au sein des organisations.

Cela pourrait devenir de plus en plus important à mesure que les entreprises donnent aux systèmes d’IA accès à des données sensibles, à des applications et à des flux de travail. Si l’évaluation indépendante se généralise, les entreprises adoptant l’IA pourraient disposer d’éléments externes permettant de vérifier si les déclarations des fournisseurs concernant la sécurité, la cybersécurité et la gouvernance résistent effectivement à l’examen.

La prochaine phase de la gouvernance de l’IA pourrait donc porter moins sur ce que les entreprises promettent que sur ce qu’elles sont capables de démontrer.

Également dans l’actualité de l’IA cette semaine

• Qualcomm va fabriquer des puces personnalisées pour Amazon dans le cadre d’un accord de $4B : Le fabricant de puces a conclu un accord majeur avec Amazon pour développer des puces personnalisées destinées à l’IA et aux centres de données, ajoutant un nouveau client hyperscaler alors qu’il renforce sa présence dans les infrastructures d’IA. Source

• John Deere exploite les données agricoles grâce à une nouvelle technologie d’IA : Le géant de l’agriculture ajoute l’IA générative à sa plateforme de gestion agricole, aidant les exploitants à transformer les données des équipements et des opérations en décisions concrètes concernant les semis, les récoltes et les performances des machines. Source

• Dell fait face à des pénuries d’approvisionnement croissantes alors que la forte demande en IA persiste : Le groupe technologique multinational fait face à une aggravation des pénuries, la demande en IA mettant sous pression non seulement la mémoire, le stockage et les CPU, mais aussi les composants de refroidissement, de réseau et d’alimentation nécessaires à la construction de systèmes d’IA complets. Source

• La start-up de programmation par IA Cognition désormais valorisée à $48B : Le fournisseur d’outils de programmation par IA a levé $2 milliards pour une valorisation de $48 milliards, alors que l’enthousiasme des investisseurs pour ces outils se poursuit. Source

• Google va investir $15B dans les infrastructures d’IA en Finlande : Le géant de la recherche et de l’IA prévoit d’investir $15 milliards dans les infrastructures d’IA finlandaises, en étendant son empreinte de centres de données alors que la demande de capacité de calcul pour l’IA augmente. Source

• Dans les coulisses de la mobilisation syndicale des travailleurs de Google AI pour promouvoir l’éthique de l’entreprise : Les employés de Google DeepMind cherchent à se syndiquer en raison de préoccupations éthiques liées à l’utilisation par l’armée des technologies d’IA et de cloud de l’entreprise. Source

• Les groupes de menaces renforcent leurs capacités de cyberattaque grâce à l’IA : Les hackers liés à des États et les cybercriminels utilisent de plus en plus l’IA et l’automatisation pour intensifier leurs attaques, trouver de nouvelles cibles et contourner les défenses traditionnelles. Source

• AWS AI Symposium : les anciens de TeenTech appellent à renforcer la culture de l’IA dans les écoles : Les anciens membres de l’organisation à but non lucratif demandent une meilleure sensibilisation à l’IA dans les écoles, alors que les pénuries de compétences restent un obstacle majeur à l’adoption de l’IA. Source