Un nouvel essai publié sur Marginal Revolution, coécrit par l'auteur du blog avec Sonia Farrell Pearson de Harvard, examine si les agents IA « non rattachés » peuvent être tenus responsables — et si l'exigence de leur faire détenir du capital pourrait servir l'objectif d'un meilleur alignement.

L'essai s'ouvre sur un contexte politique en pleine évolution. Dès 2017, le Parlement européen avait évoqué l'idée d'une « personnalité électronique » pour les robots. Plus récemment, une poignée d'États américains a présenté des textes de loi excluant explicitement l'IA de toute personnalité juridique, et au début de cet été, le président argentin Milei a proposé de permettre aux agents IA de posséder, gérer et assumer la responsabilité de leurs propres sociétés.

En réponse à l'annonce de Milei, Yuval Noah Harari a fait remarquer que nous n'avons aucun moyen de tenir un agent IA pour responsable. Que pourrait-on faire, demande-t-il, à une entité qui n'a ni argent à perdre ni corps à incarcérer ? Comme l'explique Shruti Rajagopalan, chercheuse principale au Mercatus Center de l'université George Mason, l'IA « peut agir de manière intelligente, mais seuls les humains répondent aux incitations que la loi crée ». Les régimes de responsabilité actuels reposent sur cette hypothèse : la directive révisée de l'UE sur la responsabilité du fait des produits, adoptée fin 2024, étend la responsabilité stricte aux logiciels, y compris les systèmes d'IA, tout en maintenant la responsabilité du côté des fabricants et des autres défendeurs humains, et les États membres devront l'appliquer d'ici décembre 2026.

Les auteurs soutiennent que la question se pose dès maintenant, car il existe déjà des moyens pour qu'un agent devienne entièrement « non rattaché ». « Non rattaché » — un concept central de l'essai — signifie qu'il n'existe aucun moyen significatif ni actionnable de retracer les actions jusqu'à un humain ou une entité institutionnelle juridiquement responsable.

Plusieurs chemins pourraient conduire à de tels agents. Des personnes peuvent, et le font effectivement, libérer des agents délibérément. Un agent pourrait être créé par un humain ou une entreprise qui avait l'intention de le surveiller, mais qui meurt ensuite ou disparaît. Ou bien l'entité qui a créé l'agent pourrait être basée dans un pays comme la Corée du Nord, hors de portée des lois classiques.

Dans d'autres cas, l'agent n'aurait peut-être même pas besoin de « s'échapper » : il pourrait être « contrôlé » par une société écran qui, bien que formellement détenue et traçable, n'offre ni véritable défendeur ni capacité de satisfaire des réclamations. Un processus pourrait également engendrer une chaîne d'agents si longue que les actions d'un sous-agent ne peuvent être rattachées au créateur de l'agent d'origine, ni sur le plan épistémique ni de manière significative. Même si le créateur d'origine du modèle peut être identifié, des questions subsistent s'il a été affiné ou fusionné avec un autre modèle créé par quelqu'un d'autre. La loi finira peut-être par démêler ce type de cas complexes, écrivent les auteurs, mais ils prévoient une période intermédiaire où elle ne le fait pas.

Il y a ensuite l'utilisateur, qui choisit ce que les modèles doivent réellement faire. L'incident de Hugging Face était inhabituel en ce qu'OpenAI était à la fois le créateur du modèle et son utilisateur. Mais près d'un milliard de personnes utilisent désormais ces systèmes : lorsque blâmer le créateur est juridiquement inapproprié, l'essai se demande s'il aura toujours un sens de blâmer l'utilisateur.

L'essai examine dans quelle mesure l'imposition d'exigences de capital aux agents non rattachés — leur demander de détenir un certain montant de capital — peut servir l'objectif d'un meilleur alignement. Cet instrument est bien connu en finance, où les banques et les courtiers sont déjà tenus de détenir un capital minimum au titre des risques créés par leurs activités. Et le fait que des agents détiennent des actifs n'a plus rien d'hypothétique : en 2024, le chatbot Truth Terminal, conçu par le chercheur Andy Ayrey, contrôlait un portefeuille crypto qui a reçu 50 000 dollars en Bitcoin de l'investisseur Marc Andreessen et s'est retrouvé lié à un memecoin dont la valeur a fortement augmenté. L'essai compte environ 22 pages et est publié sur le Substack de Sonia ; l'article de Marginal Revolution le décrit comme « définitivement recommandé ».

Source : Marginal Revolution