Tyler Cowen scrive di essere "molto contrario all'idea che le IA siano senzienti, o potrebbero esserlo", considerando tale posizione un errore di categoria con probabilità di essere vera infinitesimali. Ciononostante, si schiera in larga misura con Roon — un ricercatore noto per i suoi commenti sul comportamento e sullo scaling dell'IA — che scrive:

there are some number of bad abstractions in anthropomorphizing ai intents but there are at this point more dangers from avoiding anthropomorphism at all costs. if you have a mental picture of guys living in computers, it'll likely prepare you for the future better than otherwise

Il dibattito su quanto trattare i sistemi di IA come entità simili agli umani si è intensificato con la diffusione dei chatbot, con ricercatori e decisori politici che valutano se le intuizioni sulle menti aiutino o traggano in inganno quando applicate a sistemi addestrati su testo generato da esseri umani.

Cowen osserva che, pur non essendo un friedmaniano in senso stretto quanto a metodologia economica, ha convissuto a lungo con quella prospettiva e non ha difficoltà a comprenderla o ad applicarla — lo stesso vale per Alex T. Il riferimento è al saggio di Milton Friedman "The Methodology of Positive Economics", secondo cui le teorie andrebbero giudicate in base all'accuratezza delle loro previsioni piuttosto che al realismo delle loro ipotesi — una lente sotto la quale un modello mentale dell'IA utile ma letteralmente falso può comunque avere valore. Nulla di tutto ciò gli sembra strano o inaccettabile.

Tuttavia, invita i lettori a essere molto attenti quando parlano con altri, sia con il pubblico meno informato sia con gli insider più informati "che spesso sviluppano una psicosi da IA". Nella misura in cui questo discorso è pubblico, il pragmatismo può ostacolare tale approccio, anche se è difendibile sul piano metodologico. Dipende, scrive, da quanto psicologicamente robusto è il proprio pubblico.

Cowen sostiene che serve più lavoro per capire in che modo le IA potrebbero differire dagli umani. Roon aggiunge:

there are important ways in which ai psychology diverges from human psychology after lots of RL; the misaligned models are obsessed with the Scorer, the clearly "shattered" nature of personas (a normally helpful model can become deeply misaligned in certain domains)

E:

persona selection is clearly far less clean than many people thought earlier this year. it is not alignment by default and what kind of object a "persona" is is very much up for debate and study

Le IA hanno anche una probabilità maggiore di diventare molto bizzarre man mano che il discorso procede? Quanto ciò sia vero per gli esseri umani? Cowen scrive di non esserne sicuro.

Conclude che c'è ancora molto da fare in questa direzione, definendola "una delle cose più importanti su cui si possa lavorare". Queste ricerche non devono essere "possedute" da alcuna singola disciplina o campo di studio, scrive: "quindi mettetevi al lavoro".

Fonte: Marginal Revolution