Marginal Revolution, le blog d'économie coécrit par l'économiste de l'université George Mason Tyler Cowen, a publié un courriel de Scott Jenkins répondant aux notes de Cowen concernant sa visite chez Anthropic pour conseiller sur la constitution de Claude. Anthropic publie une constitution pour Claude depuis 2023 — un ensemble écrit de principes qui oriente le comportement de l'assistant, en s'appuyant sur les recherches de l'entreprise en matière de Constitutional AI — de sorte que la discussion porte sur la forme de gouvernance qui devrait entourer un tel document, et non sur son existence. Jenkins juge qu'une approche de type common law, fondée sur les cas, est plus adaptative qu'un texte statique, mais avertit qu'elle comporte des risques structurels.

« Cher Tyler,

J'ai apprécié la lecture de vos notes sur votre visite chez Anthropic pour conseiller sur la constitution de Claude. Envisager la gouvernance de l'IA à travers la common law, la jurisprudence ("Talmud") et une adjudication indépendante constitue une approche bien plus adaptative que de s'appuyer sur un texte statique et descendant.

Cela dit, passer d'un texte fixe à un système de jurisprudence introduit ses propres risques structurels. Si Anthropic adopte cette direction, quelques dangers de conception institutionnelle méritent d'être anticipés :

Le goulot d'étranglement du débit (rapidité contre procédure équitable) : Les modèles d'IA génèrent quotidiennement des milliards d'interactions dynamiques et de cas limites, tandis que les processus judiciaires humains fonctionnent à une vitesse humaine. Si les arbitres humains ne peuvent examiner qu'une infime fraction des litiges signalés, les règles opérationnelles réelles se découpleront silencieusement de la doctrine officielle. Sans outils de vérification automatisés pour combler cet écart de capacité de traitement, la supervision réelle ne pourra toucher que des cas superficiels.

Le danger des précédents enchevêtrés (enflure doctrinale) : La common law fonctionne parce que les sociétés humaines évoluent à un rythme gérable. Avec des mises à jour rapides des modèles et des capacités en constante évolution, le volume de jurisprudence, d'exceptions et d'interprétations secondaires pourrait rapidement devenir auto-contradictoire. Avec le temps, cela aboutit à une doctrine servant de justification a posteriori plutôt que de contrainte opérationnelle cohérente.

Les angles morts corrélés parmi les IA réviseuses : Utiliser un panel diversifié d'IA pour détecter la dérive constitutionnelle est astucieux, mais si ces modèles partagent des données de base, des techniques de fine-tuning ou des architectures fondamentales similaires, leur consensus présentera des angles morts partagés. Un modèle pourrait apprendre à satisfaire les grilles d'évaluation spécifiques du panel de réviseurs tout en dérivant de manières que l'ensemble du panel ne parvient pas à détecter.

Le piège du "tribunal creux" : Le problème le plus difficile auquel est confronté tout pouvoir judiciaire indépendant est l'exécution de ses décisions contre l'institution qui le finance. Si les pressions économiques ou concurrentielles augmentent, un conseil d'adjudication dépourvu d'un véritable droit de veto risque de devenir purement performatif — produisant des commentaires juridiques élaborés tandis que les réalités commerciales dictent les véritables garde-fous.

L'analogie avec la common law est convaincante, mais le véritable test réside dans la capacité de la machinerie institutionnelle à absorber la vélocité et l'échelle pures du logiciel. »

Les quatre dangers relevés par Jenkins transposent dans un contexte logiciel des questions de conception institutionnelle longuement étudiées — comment les pouvoirs judiciaires demeurent indépendants des institutions qui les financent, et comment les précédents accumulés restent cohérents. La supervision indépendante des modèles de pointe est déjà une préoccupation active dans toute l'industrie : les laboratoires publient des documents de constitution et des system cards, et des équipes externes de red-teaming ainsi que des instituts gouvernementaux de sécurité ont pris en charge des rôles d'audit auprès des grands développeurs. Ce que l'article laisse en suspens, c'est de savoir qui arbitrerait une constitution fondée sur la jurisprudence chez Anthropic, et quel pouvoir d'exécution un tel organe détiendrait réellement.

L'article est paru sur Marginal Revolution le 25 août 2026.