Anthropic et Accenture élargissent leur collaboration en matière de sécurité de l'intelligence artificielle grâce à un nouveau programme d'évaluation intégrée pour l'IA de pointe, chaque entreprise prévoyant d'investir au moins 1 milliard de dollars dans ce domaine au cours des cinq prochaines années. L'initiative vise à combler une lacune que le secteur n'a pas encore résorbée : rendre les engagements de sécurité d'un laboratoire de pointe vérifiables de manière indépendante.

Le programme sera dirigé par Faculty, l'activité spécialisée en IA d'Accenture, dont l'entreprise a annoncé son intention de faire l'acquisition plus tôt cette année dans le cadre d'un élargissement plus large de ses capacités en IA. Les évaluateurs de Faculty travailleront aux côtés des équipes d'Anthropic pour évaluer les modèles et mener des exercices de red teaming, réaliser des évaluations d'alignement et tester les sauvegardes des modèles.

Contrairement aux évaluateurs externes conventionnels, les équipes intégrées devraient bénéficier d'un accès comparable à celui des employés d'Anthropic. Cela leur permettrait d'observer les modèles pendant l'entraînement, d'examiner les décisions relatives au développement et au déploiement, et d'évaluer si l'entreprise respecte ses engagements de sécurité. La profondeur de cet accès est ce qui distingue ce modèle, en intégrant l'évaluation au cœur du processus de développement plutôt qu'en périphérie du laboratoire.

Cette initiative fait suite à un engagement pris par le PDG d'Anthropic, Dario Amodei, dans son récent essai intitulé « We Must Pace the Frontier », dans lequel il appelait à la présence d'évaluateurs indépendants au sein des laboratoires d'IA de pointe, dans le cadre d'efforts plus vastes visant à rendre les engagements de sécurité vérifiables. Le nouveau programme transforme cette proposition en un dispositif opérationnel, avec un partenaire identifié et un engagement de financement défini.

Faculty a déjà collaboré avec les principaux développeurs d'IA sur les tests de sécurité, notamment en contribuant aux évaluations de biosécurité des modèles Claude 4 d'Anthropic et en menant des exercices de red teaming sur o1 d'OpenAI. Ce parcours signifie que l'équipe arrive avec une expérience pratique des tests de modèles de pointe issus de plusieurs laboratoires.

Anthropic a indiqué que le cadre reste expérimental, aucune norme sectorielle établie ne déterminant encore ce à quoi les évaluateurs intégrés devraient avoir accès ni comment leurs conclusions devraient être communiquées. En l'absence de normes convenues, les propres pratiques du programme en matière d'accès et de divulgation définiront ses règles. Le financement reste également en suspens. Anthropic a précédemment soutenu que les évaluations indépendantes devraient finalement être financées par des mécanismes mutualisés ou soutenus par les gouvernements, mais pour le partenariat avec Accenture, l'entreprise financera directement le travail d'évaluation, ce qui signifie que le modèle repose pour l'instant sur un financement direct par une entreprise plutôt que sur l'infrastructure mutualisée qu'Anthropic a défendue.

L'accord n'est pas exclusif. Anthropic a déclaré être également en discussions avec l'évaluateur à but non lucratif METR et prévoir d'annoncer d'autres partenaires d'évaluation dans les semaines à venir, tandis qu'Accenture restera libre de travailler avec d'autres développeurs d'IA. Cette structure laisse entrevoir un ensemble d'évaluateurs intégrés chezropic plutôt qu'une dépendance à une relation unique.

Anthropic a souligné que les évaluateurs intégrés ne transfèrent pas la responsabilité de la sécurité des modèles à des organisations externes. Le programme vise plutôt à rendre les propres engagements de sécurité de l'entreprise plus faciles à vérifier de manière indépendante. Les prochaines semaines devraient clarifier au moins deux points : quels évaluateurs supplémentaires rejoignent le programme et comment ses conditions expérimentales d'accès et de communication se précisent.