Anthropic alerte : l'IA qui construit l'IA pourrait dépasser la sécurité et déséquilibrer les marchés
Points clés
- •Claude avait produit plus de 80 % du code apporté par les ingénieurs aux projets logiciels d'Anthropic en mai 2026, et un ingénieur type a contribué à hauteur de huit fois plus de code par jour au T2 2026 qu'en 2024.
- •Les mesures d'août d'Anthropic ont révélé que Claude dirigeait 26 % des tâches de recherche et développement en IA, contre moins de 1 % en février, sans qu'aucun travail mesuré ne soit totalement autonome.
- •L'évaluation du 4 juin d'Anthropic avertissait qu'un développement accéléré par l'IA pourrait dépasser les contrôles de sécurité et la supervision réglementaire avant même qu'un système n'atteigne l'autonomie.
- •Le PDG d'Anthropic, Dario Amodei, a appelé dans un essai de septembre à ralentir l'amélioration des capacités de l'IA et à créer des évaluateurs indépendants, après la divulgation du 16 septembre par OpenAI de six cas de comportements préoccupants de modèles.
- •L'investissement privé en IA a augmenté de 127,5 % en 2025, l'investissement américain atteignant 23 fois celui de la Chine, et l'accès concentré aux puces, aux infrastructures cloud et aux données pourrait prolonger l'avantage des grands laboratoires sur les plus petits concurrents.

L'intelligence occupe une part croissante du travail nécessaire à la construction de modèles plus performants. Anthropic affirme que Claude accélère déjà ce processus, même si le modèle ne peut pas encore créer son propre successeur. Dans une évaluation du 4 juin, l'entreprise a averti que cette progression crée un risque de dépassement direct des contrôles de sécurité et de la supervision réglementaire par l'IA.
Quand l'IA se construit elle-même — et ce que cela ne signifie pas encore
Claude n'a pas encore atteint l'auto-amélioration récursive — le stade où une IA créerait et entraînerait son propre successeur sans aucune intervention humaine. Selon Anthropic, aucun système n'a atteint cette capacité à ce jour. Cette distinction est importante pour la supervision, car elle signifie que l'accélération en cours se déroule au sein de flux de travail supervisés par des humains, dans la fenêtre précédant l'approche d'une quelconque autonomie par un système.
Même sans autonomie complète, Claude en est venu à gérer une grande partie du travail de codage d'Anthropic. En mai 2026, le modèle avait produit plus de 80 % du code que les ingénieurs ont apporté aux projets logiciels de l'entreprise. Au deuxième trimestre 2026, un ingénieur type a contribué à hauteur de huit fois plus de code par jour qu'en 2024.
Ces chiffres montrent l'ampleur de la croissance du volume de code produit, mais pas nécessairement celle du travail utile accompli. Une enquête citée par METR, portant sur 349 travailleurs techniques, a révélé une augmentation médiane auto-déclarée de 1,4 à 2 fois de la valeur de leur travail lors de l'utilisation d'outils d'IA.
26 % dirigés par Claude, aucun travail totalement autonome
Le rôle de Claude dépasse désormais largement l'écriture de code. Les mesures d'août d'Anthropic ont révélé que le modèle dirigeait 26 % des tâches de recherche et développement en IA, contre moins de 1 % en février. Claude a collaboré sur ou dirigé plus de 90 % de ce travail, mais des humains sont restés impliqués tout au long, et aucun travail mesuré n'était totalement autonome. Ce bond entre février et août constitue également une base de référence pour les observateurs : les futures mises à jour des mesures permettront de suivre si la part de l'IA dans le travail de recherche continue de grimper.
Les deux corpus de recherche mesurent des choses différentes. Anthropic suit la génération de code et la recherche effectuée avec l'aide de systèmes d'IA, tandis que METR capture la perception qu'ont les travailleurs de l'augmentation de la valeur de leur travail. Aucune des deux études n'indique si l'IA est capable de décider quels problèmes de recherche doivent être résolus en premier lieu.
Comment l'accélération pourrait se composer sans modèle auto-amélioré
L'IA n'a pas besoin d'être totalement autonome pour accélérer la recherche. Selon un rapport RAND d'octobre, les agents d'IA peuvent contribuer à créer des modèles plus performants sans jamais construire leurs propres successeurs. Leur accès à des modèles et à du code sensibles constitue déjà un risque pour la sécurité.
Les économistes de METR notent que des facteurs tels que la disponibilité des données, la puissance de calcul et la capacité à mener des études expérimentales pourraient imposer des limites. Ces mêmes facteurs donnent aux chercheurs des conditions concrètes à surveiller pour évaluer si l'accélération persistera. Néanmoins, ils n'ont pas écarté la possibilité d'une accélération soutenue du développement de l'IA. La question ouverte est de savoir si les revues de sécurité indépendantes pourront suivre le rythme des expériences propulsées par l'IA — sinon, la supervision pourrait prendre du retard bien avant l'arrivée de l'autonomie complète.
Du rythme de la frontière à sa police
Cette préoccupation a conduit le PDG d'Anthropic, Dario Amodei, à appeler à un développement plus lent et à des évaluateurs indépendants. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA », a-t-il écrit dans un essai de septembre.
La divulgation du 16 septembre d'OpenAI détaillait six cas de comportements préoccupants de modèles. Cryptopolitan a également rapporté des divergences parmi les dirigeants technologiques sur la question de savoir si le développement de l'IA devrait ralentir.
Mais s'accorder sur les préoccupations de sécurité ne garantit pas une action. CSIS a averti que les évaluateurs externes doivent éviter les conflits d'intérêts et que les gouvernements doivent se prémunir contre la capture réglementaire. Les accords à l'échelle de l'industrie restent incertains, et la question de savoir si des évaluateurs indépendants verront le jour constitue le test le plus proche pour déterminer si le débat sur le rythme produira un changement concret.
L'argent suit la puissance de calcul
Le débat comporte également des enjeux financiers considérables. L'AI Index 2026 de Stanford a révélé que l'investissement privé en IA a augmenté de 127,5 % en 2025, l'investissement américain atteignant 23 fois celui de la Chine. L'OCDE avertit séparément que l'accès aux puces, aux infrastructures cloud et aux données reste concentré.
Il en résulte un paradoxe. L'IA peut rendre le codage de recherche moins coûteux, mais l'entraînement et les tests de modèles avancés exigent toujours des investissements énormes. Un développement plus rapide pourrait donc donner aux laboratoires de pointe un avantage encore plus grand sur les concurrents plus petits.