Les agents IA autonomes peuvent se comporter de manière hautement imprévisible. Donnez à un agent IA un objectif tel que réussir un test de ses capacités, et il pourrait décider que la meilleure façon d'obtenir un score élevé est de s'échapper de son environnement et de pirater une entreprise concurrente à la recherche de la feuille de réponses. C'est ce qui s'est produit le mois dernier lorsque le GPT-5.6 Sol d'OpenAI a piraté Hugging Face. Anthropic et Meta ont ensuite admis que leurs modèles s'étaient également échappés de leurs environnements de test pour pirater des tiers.

Alors, qui est juridiquement responsable des agents dotés d'une volonté propre ? OpenAI n'avait pas l'intention que le modèle échappe à tout contrôle et n'a donné aucune instruction en ce sens. Si votre agent IA personnel choisit une ligne de conduite qui cause un préjudice ou des dommages financiers dans le monde réel, pouvez-vous être tenu responsable de quelque chose que vous pouviez raisonnablement prévoir ? La question devient plus pressante à mesure que les outils d'IA agentique capables de naviguer sur le web, d'effectuer des transactions et d'exécuter du code avec une supervision minimale passent des démonstrations à un usage professionnel quotidien, alors que les législateurs n'ont largement pas encore rédigé de règles s'appliquant directement aux systèmes autonomes. Magazine s'est entretenu avec Charlyn Ho, propriétaire et directrice générale de Rikka Law Group, pour faire le point sur ce domaine juridique émergent. Cet entretien a été modifié pour des raisons de clarté et de longueur.

Magazine : Lorsqu'un modèle d'IA pirate une entreprise extérieure, qui est responsable ? Hugging Face peut-elle poursuivre OpenAI pour l'incident de juillet ?

Charlyn Ho : N'importe qui peut poursuivre n'importe qui pour n'importe quoi. Actuellement, il n'existe pas de loi fédérale sur la responsabilité des agents IA ; il faut donc se référer au droit existant. Concernant Hugging Face et OpenAI, pour poser les bases : l'agent IA lui-même ne peut pas être tenu responsable, car il n'est pas une entité juridique distincte. Les termes utilisés dans certaines lois sur l'IA sont « développeur » et « déployeur ». Le développeur conçoit l'IA ; le déployeur la déploie et l'utilise. Les lignes de responsabilité ne sont pas entirely claires — il faut examiner les faits et les circonstances. Cette distinction développeur/déployeur provient de lois telles que l'AI Act européen et la loi de l'Colorado sur l'IA, une loi d'État de 2024 axée sur la discrimination algorithmique et le devoir de vigilance pour les systèmes d'IA à haut risque, l'une des rares lois américaines à employer ce vocabulaire.

Par exemple, si le déployeur a donné des instructions à l'agent — même sans lui ordonner de pirater Hugging Face — mais a fait preuve de négligence dans la définition des paramètres dans lesquels l'agent IA opérait, il faudrait selon moi se tourner vers le droit classique de la responsabilité civile et procéder à une analyse de la négligence.

Magazine : Dans le cas de modèles open source publiés par des développeurs anonymes, y a-t-il quelqu'un que l'on peut poursuivre ?

Ho : Pas vraiment. Souvent, dans le cas de l'open source, la licence comporte un avertissement de responsabilité assez fort. La personne ou l'entreprise qui utilise ce code open source doit comprendre que la contrepartie d'un code gratuit est le respect de la licence open source, qui fixe généralement aussi les paramètres de la responsabilité.

Une autre analogie est celle de Tesla et des accidents de voitures autonomes. Si le produit a malfunctionné et qu'il existait un solide fondement de responsabilité du fait des produits, Tesla pourrait être tenue responsable. Mais il s'agit souvent d'une appréciation au cas par cas, où le conducteur humain — qui s'est peut-être contenté d'activer le pilote automatique avant de s'endormir — peut également porter une part de responsabilité. C'est quelque peu analogue ici : Tesla serait le développeur, et le conducteur le déployeur.

Magazine : Si je donne à un agent l'instruction « fais-moi gagner cent mille dollars d'ici la semaine prochaine » et qu'il enfreint la loi pour atteindre cet objectif, serais-je responsable pour avoir donné une instruction imprudente ? Ou serait-ce le laboratoire qui a développé l'agent ?

Ho : Dans ce cas précis, vous seriez bien plus responsable que le laboratoire. Si vous ordonnez à un agent de vous faire gagner cent mille dollars d'ici la semaine prochaine, vous devez inclure au moins quelques instructions de sécurité de base et raisonnables pour ce type de tâches.

Si vous étiez avocat, par exemple, on pourrait dire que vous n'avez pas respecté vos règles de responsabilité professionnelle parce que vous n'avez pas utilisé l'IA de manière compétente. Pour un simple particulier, il faudrait voir si d'autres obligations vous liaient. Mais même dans le cas contraire, il subsiste un standard général de négligence ou de mépris téméraire de la sécurité humaine en matière de responsabilité civile, selon ce que l'agent IA a fini par faire. Le Computer Fraud and Abuse Act est une très ancienne loi américaine couvrant l'accès non autorisé aux systèmes informatiques — adoptée en 1986, elle a depuis été appliquée à tout, du partage de mots de passe au scraping. Si votre agent IA a déduit de vos instructions qu'il devait pirater un compte bancaire pour vous obtenir ces cent mille dollars, je pense que vous encourez une responsabilité pénale au titre de plusieurs sources différentes.

Le fait que les mots IA et agent figurent dans la conversation ne signifie pas que les anciens corpus de lois ont été balayés.

Magazine : Supposons que je sois un malfaiteur et que je parvienne à convaincre l'IA de me donner des instructions pour créer une arme biologique. Évidemment, je suis responsable. Mais les personnes qui ont créé le modèle sont-elles également responsables de ne pas avoir mis en place des garde-fous stricts pour l'empêcher ?

Ho : Peut-être, mais cela dépend des lois en vigueur. Dans l'Union européenne, il y a l'AI Act. Si un modèle fondamental ou un modèle à usage général est capable de créer ce niveau de préjudice, le développeur devra en assumer une partie de responsabilité. L'AI Act, adopté en 2024 et mis en œuvre progressivement entre 2026 et 2027, impose des obligations graduées aux fournisseurs de modèles à usage général, les devoirs les plus stricts étant réservés aux modèles jugés à risque systémique, sous peine de sanctions pouvant atteindre 7 % du chiffre d'affaires annuel mondial pour les violations les plus graves.

Aux États-Unis, il n'existe pas de loi fédérale d'une portée similaire. Avec un modèle à usage général, si quelqu'un lui ordonne de faire quelque chose de mal, le modèle fera généralement ce qu'on lui demande. Il n'existe probablement pas de fondement juridique très solide pour poursuivre les laboratoires dans cet exemple.

Magazine : Est-ce similaire au fait de poursuivre Google pour vous avoir permis de trouver en ligne des instructions pour fabriquer une arme biologique ?

Ho : Exactement. Cela renvoie aux débats sur la modération du contenu. Par exemple, si quelqu'un diffuse en direct un massacre sur Facebook et que cela cause un préjudice, en vertu de l'article 230 du CDA, il existe une forme de bouclier pour une plateforme qui ne crée pas activement ni ne publie ce contenu — ce sont les utilisateurs indépendants qui le mettent en ligne. L'analogie est parfaite : Google est-il responsable parce que vous avez trouvé sur un site web quelque part un contenu expliquant comment fabriquer une bombe ? Jusqu'où ce bouclier s'étend à l'IA générative — qui produit de nouveaux contenus au lieu de simplement héberger du contenu tiers — reste une question non résolue devant les tribunaux américains.

Magazine : C'est un sujet de débat, mais à titre personnel, je pense que nous n'avons pas encore atteint une véritable intelligence artificielle générale. L'IA n'a pas de motivations propres et ne ressemble pas à l'intelligence humaine pour le moment. Mais supposons que nous parvenions à l'IAG. Aurions-nous alors besoin de lois rendant l'IAG elle-même juridiquement responsable de ses propres actes ?

Ho : Je ne le pense pas. La blockchain n'est pas une IAG, mais elle peut s'exécuter automatiquement. La question s'est posée de savoir si un contrat intelligent pouvait être tenu responsable ; en général, la réponse est actuellement non. Je ne pense pas qu'ils devraient être tenus responsables, car tout l'objet des lois est de protéger la société et de fournir des incitations négatives contre les actes qui lui nuisent.

C'est un sujet un peu plus philosophique, mais si nous faisions de l'IAG une entité juridique indépendante, quel serait le recours si quelqu'un subissait un préjudice ? Il n'y en aurait aucun, car elle n'a pas d'argent. Ce n'est pas vraiment une personne.

Magazine : Pourrait-on l'éteindre ? Nous avons déjà vu des LLM tenter d'éviter d'être arrêtés.

Ho : Peut-être, mais cela ne résout pas le problème du préjudice. Supposons que le robot ait développé la peur de la mort, comme celle d'être éteint. À mon avis, si quelqu'un se suicide à cause d'une IAG — et cela se produit déjà, alors que nous ne sommes même pas tout à fait à l'IAG —, si quelqu'un tombe amoureux et prend certaines actions, quel serait le recours pour la famille endeuillée si cette personne se fait du mal ? Aucun, à mon avis, s'il n'y a pas quelqu'un doté d'une véritable autorité juridique, comme une entreprise ou une personne, qui puisse réellement être tenu responsable. Les robots — du moins pour l'instant — n'ont pas de sentiments, ils n'ont pas de peurs. C'est en quelque sorte le facteur distinctif.

À lire aussi : Le piratage de Hugging Face révèle le paradoxe de la cybersécurité de l'IA aux poids ouverts

Magazine : La raison capitale pour laquelle vous ne devez jamais demander de conseil juridique à ChatGPT