Le mythe de l’appel des sirènes nous accompagne depuis des milliers d’années, récemment remis en lumière par le blockbuster de Christopher Nolan, The Odyssey. Les sirènes sont des créatures surnaturelles dont l’appel est si envoûtant qu’il conduit les hommes à leur perte — et l’expression est devenue une façon de désigner cette chose que l’on sait ne pas devoir faire, mais à laquelle on ne parvient tout simplement pas à résister.

Ulysse — suivant les instructions de la magicienne Circé dans le chant 12 du poème d’Homère — en vint à se faire attacher au mât et à ordonner à son équipage de se boucher les oreilles avec de la cire. Pourtant, lorsqu’il entendit l’appel des sirènes, il cria qu’on le libère et supplia ses hommes de le laisser partir. L’homme qui avait passé 10 ans à déjouer les dieux ne se faisait pas confiance pendant 30 secondes à portée d’un son qu’il savait capable de le détruire.

Cette forme précise d’effroi — la peur de ce que l’on pourrait faire si la tentation était réelle — est plus ancienne qu’Internet, plus ancienne que l’IA, plus ancienne que toute technologie jamais accusée de nous rendre plus faibles. Elle était un ressort majeur de l’Iliade et de l’Odyssée, puis est devenue, des siècles plus tard, le problème central de la philosophie grecque, celui que les stoïciens ont passé leur vie à tenter de résoudre. C’est aussi ce que ressentent un grand nombre de personnes, discrètement et de façon croissante, chaque fois qu’elles ouvrent un chatbot ; pourquoi elles détestent la technologie sans l’utiliser, et pourquoi elles veulent voir stoppés net les centres de données qui alimentent le plus grand boom économique depuis au moins un siècle.

C’est la peur de ne pas pouvoir se retenir, de ne pas être assez bon ni assez intelligent ; la crainte que, lorsqu’une solution facile, voire potentiellement destructrice, se présente, on ne soit pas assez fort pour résister à l’appel des sirènes. Socrate éprouvait la même peur à propos de l’écriture, les scribes la même face à l’imprimerie de Gutenberg, et John Saxon la même à propos de la calculatrice. Mais l’IA concentre toutes ces peurs au-delà de l’écriture, de l’impression ou du calcul, dans l’acte même de penser. Sous cet angle, le succès à 1 milliard de dollars de The Odyssey n’a rien d’un hasard pour une époque comme la nôtre.

La peur tapie sous les données

Les personnes qui utilisent secrètement l’IA au travail et décrivent cela comme de la « triche » ne s’inquiètent pas surtout d’être découvertes par leur patron. Ce mot apparaît parce qu’une partie d’elles se pose déjà une autre question : si tout cela m’était retiré demain, serais-je encore bon dans mon travail ? Serais-je encore intelligent ?

Tout le monde connaît le nom de cette inquiétude : le syndrome de l’imposteur, cette peur persistante et intime d’être démasqué comme moins compétent que les autres ne le pensent. Avec l’IA, il y a désormais un outil à vos côtés, qui tient silencieusement le compte — et révèle chaque hallucination que vous n’êtes pas assez qualifié pour déceler.

La deuxième peur concerne le caractère, et non la compétence : et si je n’avais en réalité aucun sens de l’autocontrôle ? Et si j’acceptais la première réponse du chatbot sans chercher à l’améliorer réellement ? Et si je me faisais étriller pour avoir ajouté encore plus de déchets d’IA dans le monde ?

La littérature psychologique appelle cela le « cognitive offloading » — l’usage d’outils externes pour réduire les exigences internes d’une tâche. Les humains le font depuis l’époque de la Grèce antique, Socrate étant l’une des premières voix connues à s’inquiéter de la façon dont les hommes se déchargeaient du lourd travail intellectuel. L’IA générative déleste le raisonnement, la synthèse et le jugement créatif — le travail cognitif par lequel l’expertise se construit réellement, et pas seulement se récupère. Depuis des décennies, les psychologues sociaux décrivent les gens comme des « cognitive misers », un terme forgé par Susan Fiske et Shelley Taylor dans leurs travaux fondateurs sur la cognition sociale, pour dire que nous trouvons la pensée délibérée et exigeante pénible et que nous revenons spontanément aux raccourcis dès qu’ils sont disponibles.

C’est peut-être là la véritable controverse sur l’IA qui agite le monde du travail et la société, comme l’a noté The AI Shift, la lettre d’information hebdomadaire du Financial Times sur la façon dont l’IA transforme le travail, signée par le chroniqueur John Burn-Murdoch, qui s’est appuyé sur les recherches des économistes José Azar, Mireia Giné et Javier Sanz-Espín pour montrer que les métiers les plus exposés à l’IA ne perdent pas d’effectifs — sur le papier, l’emploi tient bon. Mais les salaires dans ces fonctions ont fortement baissé par rapport aux métiers moins exposés, et les salariés concernés changent bien moins souvent d’emploi. Les travailleurs ne sont pas licenciés à cause de l’IA, mais ils semblent devenir discrètement moins bien rémunérés, et discrètement coincés. La véritable ligne de fracture, soutient Burn-Murdoch, n’est pas entre les professions, mais entre l’exécution et l’évaluation.

Le nom que Burn-Murdoch donne à ce qui sépare ces deux groupes est la conscience professionnelle — et il note qu’un grand nombre de salariés qui utilisent l’IA au travail le font en secret, en parlant de « triche ». Mais dans l’été d’Ulysse, les travailleurs d’un monde intoxiqué par l’IA semblent redouter quelque chose de plus primal et de plus ancien : être incapables de résister à l’appel des sirènes.

Toute technologie qui vous fait gagner des efforts a déjà fait cela avant

Revenons un instant à Socrate : vers 370 av. J.-C., dans le Phèdre de Platon, le grand philosophe grec avançait des arguments étrangement familiers contre la création de la technologie de l’écriture, en relatant la légende égyptienne du dieu Theuth offrant cette nouvelle invention au roi Thamous. Il soutenait que l’écriture « implanterait l’oubli », produisant des élèves qui n’auraient que l’apparence de la sagesse — des gens capables de réciter, mais plus capables de penser réellement. Les rouleaux transformeraient les humains en perroquets stochastiques, disait-il, pour reprendre une critique moderne de l’IA.

La même crainte est revenue, plus discrète et moins retenue dans la mémoire collective, lorsque l’imprimerie a commencé à déplacer le savoir de la mémoire vers la page. Un abbé bénédictin allemand nommé Johannes Trithemius a rédigé en 1492 un traité intitulé De Laude Scriptorum (« En louange des copistes ») affirmant que les livres imprimés ne seraient jamais l’équivalent des manuscrits. « Les livres imprimés ne seront jamais l’équivalent des codex manuscrits, d’autant plus que les livres imprimés présentent souvent des lacunes en matière d’orthographe et d’apparence. »

La peur a resurgi encore une fois, cette fois avec des données à l’appui, lorsque les calculatrices sont entrées dans les salles de classe américaines dans les années 1970 et 1980. La controverse a atteint son sommet en 1986, lorsque l’enseignant de mathématiques John Saxon a mené une protestation lors de la réunion du National Council of Teachers of Mathematics. Des recherches ultérieures lui ont en fait donné raison, montrant qu’un usage habituel de la calculatrice avant que les élèves n’aient intégré les bases de l’arithmétique affaiblissait leur aisance mentale et leur capacité de rappel des faits. Mais de grands écrivains et de grands mathématiciens ont su surmonter leur propre aversion pour l’effort intellectuel et utiliser ces nouvelles technologies avec un grand effet.

Les Grecs avaient un mot pour cela

Les Grecs ne se contentaient pas de s’inquiéter vaguement du self-control. Ils ont bâti toute une branche de la philosophie autour de cette question, avec un mot précis pour ce mode d’échec exact : prendre le raccourci alors qu’on sait déjà mieux. Ils appelaient cela akrasia — littéralement « sans pouvoir » —, c’est-à-dire agir contre son meilleur jugement, tout en étant pleinement conscient de le faire. Socrate niait que cela soit même possible. Une génération plus tard, Aristote rompit avec lui, affirma que le problème était bien réel, puis élabora quelque chose de plus proche d’un spectre du caractère pour l’expliquer.

À une extrémité se trouve la sophrosyne, ou tempérance : vos appétits sont déjà orientés vers la bonne chose, donc il n’y a pas de combat. En dessous se trouve l’enkrateia : vous voulez le raccourci, la raison l’emporte, mais vous sentez la traction tout du long. En dessous encore se trouve l’akrasia : le désir l’emporte. Tout en bas se trouve l’akolasia — une indulgence si habituelle que le raccourci ne vous apparaît même plus comme une tentation. C’est simplement ce que vous faites.

Le point crucial du raisonnement d’Aristote est qu’aucune de ces स्थितions n’est une identité figée. On se déplace sur ce spectre par la répétition. On devient quelqu’un qui ne ressent plus l’attrait de la voie facile en faisant l’effort difficile encore et encore, jusqu’à ce que cela fasse partie de ce que l’on est. C’est-à-dire, avec presque aucune adaptation nécessaire, la différence exacte entre les étudiants chinois qui utilisaient l’IA comme un tuteur tout en continuant à s’exercer, et ceux qui s’en servaient pour éviter complètement la pratique. Le premier groupe construisait discrètement la sophrosyne. Le second dérivait vers l’akolasia sans s’en rendre compte. Les stoïciens — parmi eux Épictète et l’empereur Marc Aurèle — sont allés encore plus loin, faisant de la maîtrise de soi presque le cœur même d’une bonne vie.

Christopher Nolan a dépensé des centaines de millions de dollars et utilisé chaque centimètre de pellicule IMAX 70 mm cet été pour démontrer que le mythe d’Ulysse est précisément celui dont notre époque avait besoin. Le public a été d’accord : le film est sorti en juillet et a dépassé 1 milliard de dollars au box-office mondial, devenant le plus grand succès de Nolan à ce jour.

L’auteur de ce texte a lui-même joué un rôle dans le débat sur l’écriture assistée par IA — un débat qui a pris une nouvelle importance depuis que l’économiste de Harvard Ricardo Hausmann a admis l’utiliser dans une tribune pour le Financial Times et que Stanley Druckenmiller a fait de même dans une tribune du Wall Street Journal (la même publication avait consacré un portrait à mon usage de cette technologie en mars). Beaucoup de gens, même des amis proches, m’ont dit que mon écriture paraît intelligente mais qu’ils ne croient pas qu’elle soit vraiment mienne, et cela me blesse parfois, mais les temps sont étranges.

Ce que je souligne, c’est la façon dont j’utilise cette technologie comme un outil, en poussant à la fois l’écrivain et la machine à aller plus loin, sans se contenter de la première réponse. Cet article, par exemple, comportait des invites autour de l’idée de Burn-Murdoch sur la « conscience professionnelle » et des questions sur le schéma plus large auquel cela se rattache en psychologie humaine, ainsi que sur les technologies antérieures ayant fait apparaître des tensions similaires. (Claude a rejeté une réflexion selon laquelle la situation m’évoquait le film Idiocracy, suggérant Wall-E à la place, mais j’ai écarté cette piste — « Peut-être n’aurais-je pas dû ; c’est déjà assez long. »)

Ce qui me portait tout au long du texte, écrit l’auteur, était l’intuition qu’au fond, tous les humains ont la peur secrète d’être un peu stupides et de manquer d’autocontrôle. Socrate lui-même avait cette même peur, après tout, tout comme Ulysse.

Pour ce sujet, les journalistes de Fortune ont utilisé l’IA générative comme outil de recherche. Un éditeur a vérifié l’exactitude des informations avant publication.

Cet article a été publié à l’origine sur Fortune.com.