Le président Donald Trump a déclaré qu’il n’avait « aucune inquiétude » concernant une éventuelle extinction de l’humanité causée par l’intelligence artificielle, tandis que des chercheurs d’OpenAI et d’Anthropic ont publiquement exprimé de sérieuses préoccupations quant aux risques liés à l’avancée rapide des systèmes d’IA.

Interrogé jeudi sur la possibilité que l’IA entraîne l’extinction de l’humanité, Trump a répondu : « Non, je n’en ai aucune. » Il a déclaré que sa principale préoccupation était de faire en sorte que les États-Unis remportent la course à l’IA face à la Chine.

« Je crains que, si nous ne remportons pas la course à l’IA, nous ne soyons dans une très mauvaise situation », a déclaré Trump aux journalistes. Il a ajouté qu’il estimait que les États-Unis avaient actuellement environ un an d’avance sur la Chine.

Ces commentaires interviennent alors que des employés et des chercheurs de deux des principales entreprises mondiales d’IA avertissent que le développement pourrait progresser trop rapidement pour que les mesures de sécurité puissent suivre. Ces priorités concurrentes placent au cœur du débat le rythme du développement de l’IA et l’étendue des garde-fous.

Des chercheurs s’inquiètent de l’auto-amélioration récursive

Le chercheur d’Anthropic Jacob Coxon a annoncé mardi qu’il quittait l’entreprise. Coxon a déclaré qu’Anthropic et OpenAI « jouaient avec nos vies » et affirmé que les personnes qui développent l’IA pensent qu’elle pourrait « tous nous tuer d’ici la fin de la décennie ». D’autres employés des deux entreprises ont exprimé des préoccupations similaires.

L’une des principales préoccupations des chercheurs en sécurité de l’IA concerne l’auto-amélioration récursive, ou RSI. Ce terme désigne un scénario dans lequel un modèle d’IA acquiert la capacité d’améliorer ses propres performances sans assistance humaine.

Jasmine Wang, chercheuse en alignement chez OpenAI, a publié mercredi soir : « Il est difficile d’exagérer à quel point il est dangereux d’accélérer vers la RSI. »

Le directeur scientifique d’OpenAI, Jakub Pachocki, a renforcé ces inquiétudes samedi. Il a déclaré avoir une « forte conviction » que les progrès de l’IA pourraient se poursuivre jusqu’à atteindre le stade de l’auto-amélioration récursive.

« Je crains que personne ne soit préparé aux conséquences d’une hausse continue et rapide de l’intelligence des machines », a déclaré Pachocki.

Le Congrès veut renforcer la supervision de l’IA

Des élus des deux partis cherchent à accroître la supervision des systèmes d’IA avancés. En juillet, les représentants Jay Obernolte et Lori Trahan ont annoncé leur intention de présenter le FRONTIER Act, qui établirait des règles encadrant le déploiement des modèles d’IA avancés.

Trahan a écrit mercredi sur X : « Les chercheurs en sécurité démissionnent, de puissants modèles d’IA s’échappent de leurs laboratoires et les entreprises continuent malgré tout d’accélérer. Il est temps que le Congrès cesse de rester en retrait et fasse son travail. »

Au début du mois, le sénateur Bernie Sanders et le représentant Greg Casar ont présenté le Ban Artificial Superintelligence Act. Ce texte suspendrait temporairement le développement de l’IA avancée jusqu’à ce que le gouvernement fédéral mette en place des règles de sécurité. Ensemble, ces propositions montrent que le débat politique porte à la fois sur le déploiement des modèles avancés et sur la question de savoir si leur développement doit se poursuivre avant la mise en place de nouveaux garde-fous.

Trump n’a manifesté son soutien à aucun des deux projets de loi. Il reste concentré sur le maintien de l’avance des États-Unis sur la Chine dans la compétition mondiale pour l’IA, ce qui souligne le fossé croissant entre la position de l’administration et les préoccupations exprimées par les chercheurs en sécurité de l’IA.

Source : CoinCentral.