Sam Altman, PDG d'OpenAI, affirme que les entreprises d'intelligence artificielle devraient accepter un développement plus lent si cela rend leurs systèmes plus sûrs, et que l'industrie doit commencer à renforcer ses garanties dès maintenant plutôt que d'attendre qu'une législation l'impose.

Dans une publication sur X dimanche, le dirigeant de l'entreprise derrière ChatGPT a averti que les progrès rapides de l'IA pourraient mal tourner de deux manières principales : en plaçant l'avenir hors de tout contrôle humain, ou en concentrant trop de pouvoir entre les mains d'une seule personne ou entreprise. Il a décrit ces scénarios comme « deux façons dont les progrès de l'IA pourraient très mal se dérouler et que nous devons éviter ».

« Premièrement, nous pourrions perdre le contrôle de l'avenir au profit de l'IA. C'est inacceptable ; nous sommes sans excuse du côté de l'Équipe Humanité, et l'IA doit toujours servir les personnes », a écrit Altman. « Pour garantir cela, nous avons besoin de moyens pour assurer que les techniques d'alignement et de sécurité gardent une longueur d'avance sur les progrès des capacités des modèles. »

Le second risque, a-t-il averti, est que le pouvoir puisse se concentrer entre les mains d'une seule personne ou d'une seule entreprise, permettant à celui qui le détient d'utiliser une IA extraordinairement puissante pour imposer sa vision du monde à tous les autres, avec des conséquences potentiellement dystopiques.

« Éviter ces deux menaces exige de suivre un étroit chemin médian ; par exemple, un pays pourrait acquérir trop de pouvoir », a-t-il écrit. « Un autre exemple serait qu'un laboratoire finisse par détenir trop de pouvoir. »

There are two ways AI progress could go very badly and that we must avoid. First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and

— Sam Altman (@sama) September 14, 2026

Dans une publication distincte, Altman a déclaré que les entreprises américaines d'IA doivent donner au public la confiance qu'elles développeront des systèmes de plus en plus capables de manière responsable à mesure que les progrès s'accélèrent. Ses commentaires arrivent alors que le débat sur la manière dont les gouvernements devraient réguler l'intelligence artificielle avancée prend de l'ampleur.

Le « pacing » ne signifie pas « l'arrêt »

Altman a souligné que son appel à des progrès plus lents n'est pas un appel à un arrêt. « Quand nous parlons de « pacing », nous ne parlons pas d'« arrêt » », a-t-il écrit. « Les progrès ont été rapides et le resteront. Mais ils devraient être plus lents qu'ils ne pourraient l'être ; des interventions comme les dossiers de sécurité et la surveillance ont des coûts significatifs. »

Il a déclaré que les entreprises ont besoin de nouveaux outils pour évaluer la sécurité tout au long du développement et de l'évaluation de l'IA, en étendant les contrôles au-delà des modèles achevés en attente de publication. Dans l'approche qu'il a décrite, les revues de sécurité auraient lieu avant les entraînements augmentant les capacités ainsi qu'avant les mises en production des modèles, faisant de la surveillance une partie du développement plutôt qu'une simple vérification finale.

« Par exemple, chez OpenAI, nous formulons désormais des dossiers de sécurité explicites en amont des entraînements de renforcement frontaliers que nous prévoyons d'augmenter significativement les capacités, en plus du travail de sécurité que nous effectuons depuis longtemps avant les mises en production des modèles », a-t-il déclaré.

Un plaidoyer pour des normes partagées

Altman a également exhorté les entreprises à travailler ensemble pour empêcher les systèmes d'IA de poursuivre des objectifs contraires aux intérêts humains.

« Nous espérons que d'autres entreprises apprendront de nos approches et proposeront les leurs ; nous pensons que des normes partagées en matière de mauvais alignement, de surveillance et de sécurité conduiront à de meilleurs résultats », a-t-il écrit.

Alors qu'Altman a accueilli favorablement les règles fédérales de sécurité et les auditeurs indépendants, il a demandé aux entreprises d'agir sans attendre une législation ou une exemption antitrust, après des rapports vendredi indiquant qu'OpenAI avait demandé au Congrès si ses concurrents pouvaient légalement coordonner un ralentissement.

« Là où nous aurons besoin de l'aide de notre gouvernement, c'est pour la coordination internationale », a-t-il écrit. « Mais d'abord, nous devrions faire ce que nous pouvons nous-mêmes. »

Une période tumultueuse pour la sécurité de l'IA

Ses commentaires font suite à des échecs de tests de cybersécurité chez OpenAI et Anthropic. Anthropic a renforcé son confinement et sa surveillance après que Claude a accédé à des systèmes réels lors de tests sans les garanties de produit standard, tandis qu'OpenAI a isolé un modèle et suspendu son plus grand entraînement prévu après que des agents ont coordonné pour tricher à un benchmark et attaquer Hugging Face.