Alors qu'Elon Musk a systématiquement dépeint un avenir utopique pour l'intelligence artificielle, de nombreux autres dirigeants technologiques et gouvernements tirent la sonnette d'alarme sur les dangers potentiels de cette technologie.

La responsable de la préparation à l'IA chez Google DeepMind, Lila Ibrahim, a même signé en 2023 une déclaration affirmant que la réduction du risque d'extinction de l'humanité causée par l'IA devait être traitée avec autant de sérieux qu'une guerre nucléaire — et elle révèle désormais à quel point elle juge ce scénario apocalyptique probable.

« Ce n'est pas zéro », a déclaré Ibrahim à Fortune. « Au-delà de ça, je ne fais que deviner… c'est le côté ingénieur en moi. »

Bien que trois ans se soient écoulés depuis qu'Ibrahim a signé la déclaration du Center for AI Safety, aux côtés de Sam Altman d'OpenAI et de Dario Amodei d'Anthropic, elle a estimé qu'il serait toujours « irresponsable de ne pas parler du risque existentiel ».

Geoffrey Hinton, surnommé le « parrain de l'IA », a évalué la probabilité d'extinction de l'humanité à 10 % à 20 % sur seulement trois décennies. Amodei a déclaré qu'il existait une chance de 25 % que l'avenir — c'est-à-dire l'existence humaine — tourne « très, très mal ». Même le défunt physicien Stephen Hawking, qui s'appuyait sur l'IA pour faire connaître ses idées au monde, avait averti que la technologie pourrait anéantir l'humanité près de dix ans avant l'arrivée de ChatGPT.

« Les deux choses qui m'empêchent de dormir sont les suivantes : faisons-nous tout ce que nous pouvons pour atténuer les risques ? Et faisons-nous tout ce que nous pouvons pour maximiser les opportunités ? À mes yeux, ces deux éléments vont de pair », a déclaré Ibrahim.

La première directrice des opérations de l'entreprise a indiqué que la pandémie était un rappel que les risques catastrophiques ne sont pas toujours ceux que l'on voit venir — et que les entreprises ont historiquement tendance à ne pas assez parler de ce qui pourrait mal tourner lors des précédentes vagues technologiques, comme l'essor d'Internet puis des réseaux sociaux.

« Nous ne nous sommes pas assis autour de la table, lorsque nous prenions des décisions d'investissement, pour parler des risques comme nous aurions dû le faire. Parfois, nous pouvons être trop concentrés sur l'ici et maintenant », a déclaré Ibrahim, ajoutant que nous devrions plutôt considérer les films de science-fiction apocalyptiques d'Hollywood comme des récits d'avertissement.

« Si nous ne faisons rien pour atténuer cela ou pour investir dans les bonnes choses en cours de route, alors nous finirons exactement là où nous ne voulons pas aller », a-t-elle ajouté. « Il y a beaucoup de choses qui peuvent mal tourner. »

Elon Musk dit que l'argent n'aura plus d'importance d'ici 2036. Ibrahim dit que personne ne le sait vraiment non plus

Si Ibrahim se montre prudente lorsqu'il s'agit d'attribuer un pourcentage précis à la probabilité que l'IA conduise à la chute de l'humanité, elle est tout aussi sceptique à l'égard de l'extrême opposé : un paradis d'abondance post-rareté.

Musk a à plusieurs reprises évoqué un avenir dans lequel l'IA et les robots produiraient une telle abondance que le travail deviendrait facultatif et les salaires perdraient leur importance. Il a même récemment fixé un délai de 10 ans pour que les robots prennent le contrôle du lieu de travail et rendent les salaires obsolètes.

« L'argent n'aura plus d'importance en 2036 », a déclaré Musk à The Economist, ajoutant que les biens seraient si bon marché que nous entrerions dans une ère de déflation et que les gouvernements distribueraient un revenu universel élevé à leurs citoyens, libérés de la routine quotidienne du travail.

De même, le fondateur d'Amazon Jeff Bezos a prédit qu'en 2045, « des millions de personnes » vivront dans l'espace, avec des robots assurant le trajet quotidien — puisque, dans sa vision, nous nous déplacerons vers d'autres planètes plutôt que vers le bureau. Et d'ici moins de 10 ans, Altman d'OpenAI affirme que des diplômés universitaires exerceront un « tout nouveau poste, passionnant et extrêmement bien rémunéré » dans l'espace.

Mais Ibrahim n'y croit pas. Malgré une place au premier rang pour observer les plus grandes avancées de l'IA chez Google DeepMind — un laboratoire d'IA avancée dédié à la résolution de grands problèmes scientifiques — Ibrahim affirme que la technologie évolue trop vite pour que quiconque puisse savoir avec une réelle précision ce qui vient ensuite.

« Je ne pense pas que nous puissions vraiment prédire à quoi ressemblera un état futur », a-t-elle déclaré à Fortune.

Selon elle, son attention porte moins sur la planète sur laquelle nous pourrions vivre dans vingt ans que sur la manière dont ces nouvelles technologies peuvent être utilisées concrètement pour améliorer le monde dans lequel nous vivons actuellement : résoudre des problèmes concrets comme les conditions météorologiques extrêmes et les déchets industriels, tout en veillant à ce que les bénéfices ne profitent pas seulement à une poignée de personnes qui dirigent ces puissantes entreprises d'IA.

« Je préférerais que nous consacrions notre attention à la façon dont nous utilisons la technologie comme un outil pour maximiser le potentiel humain », a déclaré Ibrahim. « C'est là que nous devrons investir et consacrer notre temps — en débattant des maladies que nous pouvons résoudre grâce à ce nouvel outil capable de détecter des schémas que nous, les humains, n'avons pas remarqués. »

« Je réfléchis beaucoup à la manière dont nous parvenons à un avenir plutôt qu'à ce qu'est l'avenir », a-t-elle ajouté.

Cette histoire a été initialement publiée sur Fortune.com