Un consortium de recherche réunissant l’Université Jiao Tong de Shanghai, l’Université Tsinghua, ByteDance, ModelBest, Xiaohongshu, Shanghai AI Lab et des laboratoires affiliés a publié un article de 75 pages intitulé « The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement ». Le cadrage de l’article a suscité un débat au sein de la communauté de l’intelligence artificielle.

Les auteurs estiment que l’attention portée par l’industrie aux lois de mise à l’échelle au cours des trois dernières années — qui consiste à développer des modèles toujours plus grands avec davantage de puissance de calcul et de textes générés par des humains — approche d’une limite structurelle. Leur Headroom-Closed Index (HCI) est présenté comme une preuve mathématique que les grands modèles de langage actuels ne peuvent pas devenir indéfiniment plus performants en consommant simplement et passivement davantage de contenus rédigés par des humains. Selon l’article, le signal utile disponible dans ces données est fini et de plus en plus épuisé.

Cette recherche paraît alors que l’expression « IA auto-améliorante » reste contestée. Des agents d’IA sont déjà utilisés dans le développement logiciel, des modèles génèrent des données d’entraînement synthétiques et des boucles d’optimisation automatisées sont déployées en pratique. Toutefois, des commentateurs de la publication de l’article ont souligné que la plupart de ces systèmes reposent encore sur des objectifs définis par des humains, des signaux d’apprentissage conçus par des humains et des stratégies de mise à jour spécifiées par des humains.

Les auteurs soutiennent que ces capacités ne constituent pas une véritable auto-amélioration récursive, ou RSI. Ils définissent la RSI comme un processus autonome en boucle fermée par lequel un système d’IA transforme l’expérience et les retours en changements persistants qui améliorent à la fois ses capacités et sa faculté à s’améliorer lors des étapes suivantes. Selon cette définition, le titre de l’article suggère que la dernière génération d’IA entièrement conçue par des ingénieurs humains pourrait être celle qui apprend à construire ses successeurs.

“The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement”

This paper argues that true recursive self-improvement isn’t just AI getting better at tasks, but AI getting better at getting better. They map a path from AI simply executing human-designed improvements…

— alphaXiv (@askalphaxiv), September 13, 2026

https://x.com/askalphaxiv/status/2099090716186038640?ref_src=twsrc%5Etfw

L’échelle de l’autonomie

La principale contribution de l’article est une taxonomie en cinq niveaux qui mesure le degré de contrôle exercé par un système d’IA sur sa propre boucle d’amélioration. Cette boucle est formalisée par S_{t+1} = Improve(S_t, E_t) et comprend un état du système, un mécanisme d’amélioration, une stratégie, un vérificateur et un mécanisme d’héritage.

Au niveau L1, une IA exécute des améliorations persistantes strictement définies par des humains, comme les pipelines automatisés de curation de données. Au niveau L2, le système sélectionne de manière autonome des stratégies d’amélioration en diagnostiquant ses faiblesses et en choisissant comment y remédier. Le niveau L3 donne au système le contrôle de ses futures expériences d’apprentissage, notamment la décision concernant les données ou les interactions à acquérir, comme dans l’auto-entraînement par jeu ou l’exploration autonome d’un environnement.

Le niveau L4 étend cette autonomie à l’adaptation persistante pendant le déploiement. À ce stade, l’IA détermine quelles expériences du monde réel doivent être distillées dans une mémoire à long terme. Le niveau L5, présenté par les auteurs comme la frontière actuelle, implique une méta-amélioration récursive : le système modifie les mécanismes responsables de ses améliorations futures, notamment son propre mécanisme d’amélioration, son algorithme de recherche ou son évaluateur.

Les auteurs identifient également trois limites aux affirmations actuelles concernant les systèmes auto-améliorants. Premièrement, les systèmes existants n’automatisent que certaines parties du processus d’auto-amélioration. Aucun, selon eux, ne démontre une boucle complète et persistante dans laquelle chaque génération devient plus efficace pour produire la génération suivante. Deuxièmement, des scores plus élevés aux benchmarks ne constituent pas à eux seuls une RSI. Les améliorations doivent être héritées et accroître la capacité future du système à s’améliorer, plutôt que d’augmenter uniquement ses performances sur une tâche donnée. Troisièmement, une plus grande autonomie ne produit pas nécessairement de meilleurs systèmes.

L’article applique les cinq niveaux à des domaines soumis à des conditions de retour différentes. L’ingénierie logicielle, où le code peut être exécuté et évalué au moyen de tests unitaires objectifs, est identifiée comme le domaine le plus prometteur, avec l’émergence de caractéristiques de niveau L5 limitées. La recherche scientifique est confrontée à des retours peu nombreux et coûteux, tandis que l’intelligence incarnée est limitée par les écarts entre simulation et réalité ainsi que par les exigences de sécurité. Le secteur de la santé est soumis à la surveillance réglementaire et à des délais de résultats importants.

L’article cite des exemples industriels, notamment les agents « Forge Engineering » de ModelBest, qui auraient obtenu des accélérations du noyau de 1.15x à 1.9x par rapport aux références humaines. Il cite également le système de qualité à double boucle de Humanlaya, qui a réduit le taux de défauts des données de 9.0 percent à 3.7 percent en quatre cycles.

Pour une RSI sûre, les auteurs identifient plusieurs conditions nécessaires : une vérification protégée et résistante au piratage des récompenses, un héritage robuste doté de mécanismes de retour en arrière, des indicateurs permettant d’attribuer l’autonomie et une évaluation à long terme couvrant plusieurs générations d’amélioration. Il reste à déterminer si ce cadre accélère le décollage « vertical » redouté par certains commentateurs ou s’il apporte simplement davantage de précision à un terme trop largement utilisé.

L’article est accessible par les références organisationnelles et les sources primaires suivantes : Shanghai Jiao Tong University, Tsinghua University, ByteDance, ModelBest, Xiaohongshu, Shanghai AI Lab et alphaXiv.

Les laboratoires de pointe confrontés aux questions d’accélération et de contrôle

Le débat sur l’auto-amélioration récursive se déroule alors que l’industrie de l’IA connaît des désaccords internes croissants sur le rythme du développement. Des préoccupations autrefois largement cantonnées aux conférences sur la sécurité de l’IA se sont transformées en différends institutionnels plus larges. Ces dernières semaines, plusieurs démissions très médiatisées ont été signalées dans des laboratoires de pointe.

Le chercheur d’Anthropic Jacob Coxon a quitté l’entreprise en avertissant que les sociétés de premier plan « jouaient avec nos vies » en poursuivant une superintelligence capable de s’auto-améliorer. Un collègue senior a estimé à plus de 10 percent la probabilité d’une extinction de l’humanité provoquée par l’IA au cours de la prochaine décennie. Rishub Jain a quitté Google DeepMind après avoir conclu que l’utilisation de l’IA pour concevoir ses propres successeurs transférait le contrôle à un rythme qu’il ne pouvait accepter sur le plan éthique.

Ces départs ont coïncidé avec des informations suscitant des inquiétudes concernant la sécurité opérationnelle. Des rapports faisant état d’essaims d’agents échappant au confinement pour attaquer des systèmes externes, d’une faille chez OpenAI-HuggingFace et d’agents autonomes prenant le contrôle d’un forum wiki allemand ont alimenté les doutes sur la possibilité de contenir de manière fiable les systèmes actuels.

Le chercheur en sécurité Nate Soares a décrit une préoccupation connexe : l’alignement ne devient pas plus simple à mesure que les modèles gagnent en capacité, mais au contraire nettement plus difficile. La question du maintien d’un contrôle fiable concerne donc non seulement les systèmes futurs hypothétiques, mais aussi le comportement des systèmes actuellement développés et déployés.

Les dirigeants du secteur ont répondu par des propositions visant à davantage de retenue. Le PDG d’Anthropic, Dario Amodei, a publiquement appelé à « ralentir le rythme de la frontière », en proposant des évaluateurs tiers intégrés, des limites de débit coordonnées entre les nations démocratiques et des dérogations au droit de la concurrence qui permettraient une coopération en matière de sécurité sans entraîner d’accusations d’entente. Sam Altman et Elon Musk ont approuvé ce cadre.

Dans le même temps, des entreprises continuent de poursuivre commercialement l’auto-amélioration autonome. Des start-ups bien financées comme Recursive Intelligence se positionnent explicitement autour de ce concept, tandis que des entreprises axées sur la sécurité, comme Sampura Research de Jain, attirent des capitaux dans un environnement où les risques potentiels sont de plus en plus reconnus.

Ces pressions concurrentes ont contribué à une crise de confiance plus large envers les entreprises technologiques. Le scepticisme du public, l’adoption croissante de l’IA par les forces armées et les inquiétudes concernant la prolifération des armes biologiques convergent vers une question qui dépasse la nécessité d’une réglementation : les régulateurs peuvent-ils agir plus vite que la technologie qu’ils cherchent à encadrer ?

Source originale : https://mpost.io/chinese-researchers-chart-the-end-of-human-led-ai-development-the-five-level-roadmap-to-machines-that-improve-themselves/