Tyler Cowen écrit qu'il est « très opposé à l'idée que les IA soient sensibles, ou pourraient l'être », considérant cette position comme une erreur de catégorie dont la probabilité d'être vraie est infime. Il se range néanmoins largement du côté de Roon — un chercheur connu pour ses analyses sur le comportement des IA et le passage à l'échelle — qui écrit :

il existe un certain nombre de mauvaises abstractions en anthropomorphisant les intentions des IA, mais à ce stade, les dangers d'éviter à tout prix l'anthropomorphisme sont plus grands. si vous avez une image mentale de personnes vivant dans des ordinateurs, cela vous préparera probablement mieux au futur que l'inverse

Le débat sur la mesure dans laquelle il faut traiter les systèmes d'IA comme des entités humanoïdes s'est intensifié à mesure que les chatbots se généralisaient, les chercheurs et les décideurs publics pesant le fait de savoir si les intuitions relatives à l'esprit aident ou égarent lorsqu'elles s'appliquent à des systèmes entraînés sur des textes produits par des humains.

Cowen note que s'il n'est pas friedmanien en matière de méthodologie économique à proprement parler, il vit avec cette perspective depuis longtemps et n'a aucune difficulté à la comprendre ou à travailler avec — il en va de même pour Alex T. La référence renvoie à l'essai de Milton Friedman, « The Methodology of Positive Economics », qui soutenait que les théories devaient être jugées sur la précision de leurs prédictions plutôt que sur le réalisme de leurs hypothèses — une grille de lecture sous laquelle un modèle mental utile mais littéralement faux de l'IA peut conserver de la valeur. Rien de tout cela ne lui semble étrange ou inacceptable.

Il invite toutefois les lecteurs à la plus grande prudence lorsqu'ils s'adressent à autrui, qu'il s'agisse du public moins informé ou d'initiés plus avertis « souvent atteints de psychose de l'IA ». Dans la mesure où ce discours est public, le pragmatisme peut s'opposer à cette approche, même si elle est méthodologiquement défendable. Tout dépend, écrit-il, de la robustesse psychologique de votre auditoire.

Cowen estime que davantage de travaux sont nécessaires pour comprendre en quoi les IA pourraient différer des humains. Roon ajoute :

la psychologie des IA diverge de la psychologie humaine de manières importantes après beaucoup d'apprentissage par renforcement ; les modèles mal alignés sont obsédés par le Scorer, et la nature clairement « fragmentée » des personas (un modèle normalement serviable peut devenir profondément mal aligné dans certains domaines)

Et :

la sélection des personas est manifestement bien moins nette que beaucoup ne le pensaient au début de cette année. l'alignement n'est pas automatique par défaut, et la question de savoir quel type d'objet est un « persona » reste très ouverte au débat et à l'étude

Les IA ont-elles aussi plus de chances de devenir très délirantes à mesure que le discours progresse ? Dans quelle mesure est-ce vrai pour les humains ? Cowen écrit ne pas en être sûr.

Il conclut qu'il reste beaucoup à faire dans cette direction, qualifiant le sujet de « l'une des choses les plus importantes sur lesquelles vous puissiez travailler ». Ces recherches n'ont pas besoin d'être « possédées » par une seule discipline ou un seul champ académique, écrit-il : « alors lancez-vous. »

Source : Marginal Revolution