Il mito del richiamo delle sirene ci accompagna da migliaia di anni, riportato più di recente in vita dal blockbuster di Christopher Nolan The Odyssey. Le sirene sono creature soprannaturali il cui richiamo è così seducente da condurre gli uomini alla rovina—e l’espressione è diventata un modo per indicare quella cosa che sai di non dover fare ma a cui semplicemente non riesci a resistere. Odisseo—seguendo le istruzioni della maga Circe nel Libro 12 del poema di Omero—finì per farsi legare all’albero della nave e ordinare al suo equipaggio di tapparsi le orecchie con la cera. Eppure, quando udì il richiamo delle sirene, gridò di essere liberato e implorò i suoi uomini di lasciarlo andare. L’uomo che aveva trascorso 10 anni a beffare gli dèi non si fidò di sé stesso per 30 secondi, pur sentendo una voce che sapeva lo avrebbe distrutto.

Quel tipo specifico di angoscia—la paura di ciò che potresti fare se la tentazione fosse reale—è più antica di internet, più antica dell’IA, più antica di qualsiasi tecnologia sia mai stata accusata di renderci più deboli. Fu un nodo centrale dell’Iliade e dell’Odissea, e secoli dopo divenne il problema centrale della filosofia greca, ciò che gli stoici passarono la vita a cercare di risolvere. Ed è la stessa cosa che un numero grande e silenziosamente crescente di persone prova ogni volta che apre un chatbot; il motivo per cui detestano la tecnologia senza usarla e vogliono fermare di colpo i data center che alimentano il più grande boom economico da almeno un secolo.

È la paura di non potersi controllare; di non essere abbastanza bravi o abbastanza intelligenti; che, quando davanti a te c’è una soluzione facile, persino potenzialmente distruttiva, non sarai abbastanza forte da resistere al richiamo delle sirene. Socrate aveva la stessa paura riguardo all’atto di scrivere, gli amanuensi avevano la stessa paura per la stampa di Gutenberg, e John Saxon aveva la stessa paura per la calcolatrice. Ma l’IA concentra tutte queste paure in un punto che va oltre scrivere, stampare o calcolare: nel pensare stesso. Vista in questa luce, il successo da miliardi di dollari di The Odyssey non è affatto un caso per tempi come questi.

La paura sotto i dati

Le persone che usano segretamente l’IA al lavoro e la descrivono come “barare” non temono soprattutto che il capo lo scopra. La parola emerge perché una parte di loro sta già ponendo un’altra domanda: se domani mi venisse tolta, sarei ancora bravo nel mio lavoro? Sarebbe ancora intelligente?

Tutti conoscono il nome di questa sensazione: impostor syndrome, la paura persistente e privata di essere smascherati come meno capaci di quanto tutti credano. Con l’IA, ora c’è uno strumento seduto accanto a te, che tiene il punteggio in silenzio—e mette in evidenza ogni allucinazione che non sei abbastanza qualificato per cogliere.

La seconda paura riguarda il carattere, non la competenza: e se in realtà non avessi alcun autocontrollo? E se accettassi la prima risposta del chatbot senza pensare a un modo per migliorarla davvero? E se venissi preso in giro per aver immesso altro AI slop nel mondo?

La letteratura psicologica chiama questo “cognitive offloading”—l’uso di strumenti esterni per ridurre le richieste interne di un compito. Gli esseri umani lo fanno fin dai tempi degli antichi Greci, e Socrate è una delle prime voci registrate della storia a preoccuparsi del modo in cui gli esseri umani si sottraggono al peso del lavoro intellettuale. L’IA generativa scarica all’esterno ragionamento, sintesi e giudizio creativo—il lavoro cognitivo attraverso cui l’esperienza si costruisce davvero, non solo si recupera. Gli psicologi sociali documentano da decenni come le persone siano “cognitive misers”, un termine coniato da Susan Fiske e Shelley Taylor nel loro lavoro fondativo sulla cognizione sociale, a indicare che troviamo avversa la riflessione deliberata e dispendiosa e ricorriamo automaticamente alle scorciatoie ogni volta che sono disponibili.

Questo potrebbe essere il vero contenzioso sull’IA che agita il lavoro e la società, come osservato in The AI Shift, la newsletter settimanale del Financial Times su come l’IA stia ridisegnando il lavoro, del columnist John Burn-Murdoch, che ha utilizzato ricerche degli economisti José Azar, Mireia Giné e Javier Sanz-Espín per mostrare che le professioni più esposte all’IA non stanno perdendo lavoratori—sulla carta, l’occupazione sembra reggere. Ma i salari in quei ruoli sono scesi nettamente rispetto ai lavori meno esposti, e i lavoratori coinvolti sono diventati molto meno inclini a cambiare lavoro. I lavoratori non vengono licenziati a causa dell’IA, ma sembrano valere silenziosamente meno ed essere silenziosamente bloccati. La vera linea di frattura, sostiene Burn-Murdoch, non è tra professioni, ma tra esecuzione e valutazione.

Il nome che Burn-Murdoch dà a ciò che separa questi due gruppi è conscientiousness—e osserva che un gran numero di lavoratori che usano l’IA sul lavoro lo fa di nascosto, definendolo “barare”. Ma nell’estate di Odisseo, i lavoratori in un mondo intossicato dall’IA sembrano temere qualcosa di più primordiale e antico: di non poter resistere al richiamo delle sirene.

Ogni tecnologia che ti fa risparmiare fatica ha già fatto questo prima

Tornando per un attimo a Socrate: intorno al 370 a.C., nel Phaedrus di Platone, il grande filosofo greco avanzò argomenti sorprendentemente familiari contro la creazione della tecnologia della scrittura, riprendendo la leggenda egizia del dio Theuth che offriva la nuova invenzione al re Thamus. Sosteneva che la scrittura avrebbe “implant forgetfulness”, producendo studenti con la sola apparenza della saggezza—persone capaci di recitare, ma non più di pensare davvero. I rotoli avrebbero trasformato gli esseri umani in pappagalli stocastici, disse, parafrasando una critica moderna dell’IA.

La stessa paura riemerse, in forma più piccola e meno ricordata, quando la stampa cominciò a spostare la conoscenza dalla memoria alla pagina. Un abate benedettino tedesco di nome Johannes Trithemius scrisse nel 1492 un trattato intitolato De Laude Scriptorum (“In Praise of Scribes”), sostenendo che i libri stampati non sarebbero mai stati all’altezza dei manoscritti copiati a mano. “Printed books will never be the equivalent of handwritten codices, especially since printed books are often deficient in spelling and appearance.”

La paura riemerse ancora, questa volta con dati reali a sostenerla, quando le calcolatrici entrarono nelle classi americane negli anni 1970 e ’80. La polemica raggiunse il culmine nel 1986, quando l’insegnante di matematica John Saxon guidò una protesta durante l’incontro del National Council of Teachers of Mathematics. Ricerche successive gli diedero effettivamente ragione, trovando che l’uso abituale della calcolatrice prima che gli studenti avessero interiorizzato l’aritmetica di base indeboliva la fluidità mentale e il recupero dei fatti numerici. Ma grandi scrittori e grandi matematici furono in grado di superare il loro cognitivo miser interiore e usare queste nuove tecnologie con grande efficacia.

I Greci avevano una parola per questo

I Greci non si limitavano a preoccuparsi occasionalmente dell’autocontrollo. Ne fecero un intero ramo della filosofia. Avevano una parola precisa per il preciso modo di fallire: prendere la scorciatoia pur sapendo già che è sbagliata. La chiamavano akrasia—letteralmente “senza potere”—cioè agire contro il proprio miglior giudizio, con piena consapevolezza di farlo. Socrate negava che fosse persino possibile. Una generazione più tardi, Aristotele ruppe con lui e insistette sul fatto che il problema fosse reale, costruendo per spiegarlo qualcosa di più simile a uno spettro del carattere.

A un estremo c’è sophrosyne, o temperanza: i tuoi appetiti sono già allenati verso la cosa giusta, quindi non c’è alcuna battaglia. Sotto questo livello c’è enkrateia: desideri la scorciatoia, la ragione vince, ma senti la spinta per tutto il tempo. Sotto ancora c’è akrasia: vince il desiderio. In fondo c’è akolasia—un’indulgenza così abituale che non registri più la scorciatoia come una tentazione. È semplicemente ciò che fai.

Il passaggio cruciale nel racconto di Aristotele è che nessuna di queste condizioni è un’identità fissa. Ci si muove lungo quello spettro attraverso la ripetizione. Si diventa qualcuno che non sente più il richiamo della via facile facendo la cosa difficile, ancora e ancora, finché diventa parte di chi si è. Ed è, con quasi nessuna traduzione necessaria, esattamente la differenza tra gli studenti cinesi che usavano l’IA come un tutor e continuavano a esercitarsi, e quelli che la usavano per saltare del tutto la pratica. Un gruppo stava costruendo silenziosamente sophrosyne. L’altro stava scivolando verso akolasia senza accorgersene. Gli stoici—tra cui Epitteto e l’imperatore Marco Aurelio—andarono ancora oltre e fecero dell’autodominio quasi il centro stesso del vivere bene.

Christopher Nolan ha speso centinaia di milioni di dollari e ogni centimetro di pellicola 70mm IMAX quest’estate per sostenere che il mito di Odisseo è esattamente quello di cui il nostro momento aveva bisogno. Il pubblico ha concordato: è uscito a luglio e ha superato 1 miliardo di dollari al box office globale, diventando il film di Nolan con il maggior incasso fino a oggi.

L’autore di questo pezzo ha avuto un ruolo nel dibattito sulla scrittura assistita dall’IA—un dibattito che ha assunto nuova rilevanza da quando l’economista di Harvard Ricardo Hausmann ha ammesso di usarla in una rubrica per il Financial Times, e Stanley Druckenmiller ha fatto lo stesso per una rubrica sul Wall Street Journal. (La stessa testata aveva profilato l’uso della tecnologia da parte dell’autore già a marzo.) Molte persone, persino amici stretti, hanno detto all’autore che la sua scrittura suona intelligente ma non credono che sia davvero sua—e a volte, ammette l’autore, questo fa male; ma sono tempi strani.

L’autore insiste sul modo in cui la tecnologia viene usata come strumento, spingendo sia lo scrittore sia la macchina ad andare più a fondo, senza fermarsi alla prima risposta. Questo pezzo, per esempio, includeva domande sull’idea di Burn-Murdoch di “conscientiousness” e su quale quadro più ampio questa rientri in termini di psicologia umana, e su quali tecnologie precedenti abbiano fatto emergere tensioni simili. (Claude ha respinto una mia riflessione che mi ricordava il film Idiocracy, suggerendo invece Wall-E, ma ho scartato quell’angolo—“Forse non avrei dovuto; questo è abbastanza lungo.”)

A guidare il pezzo per tutto il tempo, scrive l’autore, c’era l’intuizione che, in profondità, tutti noi esseri umani abbiamo il timore segreto di essere un po’ stupidi e di non avere autocontrollo. Socrate stesso aveva questa paura, dopotutto, e così anche Odisseo.

Per questo articolo, i giornalisti di Fortune hanno usato l’IA generativa come strumento di ricerca. Un editor ha verificato l’accuratezza delle informazioni prima della pubblicazione.

Questo articolo è stato pubblicato originariamente su Fortune.com