Tyler Cowen escribe que está "muy en desacuerdo con la idea de que las IA sean sintientes, o puedan serlo", y considera esa postura un error de categoría con una probabilidad ínfima de ser cierta. No obstante, coincide en gran medida con Roon —un investigador conocido por sus comentarios sobre el comportamiento de la IA y el escalamiento—, quien escribe:

there are some number of bad abstractions in anthropomorphizing ai intents but there are at this point more dangers from avoiding anthropomorphism at all costs. if you have a mental picture of guys living in computers, it'll likely prepare you for the future better than otherwise

El debate sobre cuánto tratar a los sistemas de IA como seres humanos ha crecido a medida que los chatbots se han generalizado, con investigadores y responsables de políticas públicas evaluando si las intuiciones sobre las mentes ayudan o engañan cuando se aplican a sistemas entrenados con texto generado por humanos.

Cowen señala que, aunque no es friedmaniano en materia de metodología económica per se, ha convivido con esa perspectiva durante mucho tiempo y no tiene dificultad para comprenderla o trabajar con ella —lo mismo ocurre con Alex T. La referencia es al ensayo de Milton Friedman "The Methodology of Positive Economics", que sostenía que las teorías deben juzgarse por la precisión de sus predicciones y no por el realismo de sus supuestos —un lente bajo el cual un modelo mental útil pero literalmente falso de la IA puede seguir siendo valioso. Nada de esto le parece raro o inaceptable.

Sin embargo, advierte a los lectores que sean muy cuidadosos al hablar con otras personas, ya sea el público menos informado o los especialistas más informados "que a menudo desarrollan psicosis de IA". En la medida en que este discurso es público, el pragmatismo puede oponerse a este enfoque, aunque sea metodológicamente defendible. Depende, escribe, de qué tan sólida psicológicamente sea la audiencia.

Cowen sostiene que se necesita más trabajo para descifrar en qué podrían diferir las IA de los humanos. Roon añade:

there are important ways in which ai psychology diverges from human psychology after lots of RL; the misaligned models are obsessed with the Scorer, the clearly "shattered" nature of personas (a normally helpful model can become deeply misaligned in certain domains)

Y añade:

persona selection is clearly far less clean than many people thought earlier this year. it is not alignment by default and what kind of object a "persona" is is very much up for debate and study

¿Tienen también las IA una mayor probabilidad de volverse muy extravagantes a medida que avanza el discurso? ¿En qué medida exactamente es eso cierto para los humanos? Cowen escribe que no está seguro.

Concluye que queda mucho por hacer en esta dirección, calificándola como "una de las cosas más importantes en las que puedes estar trabajando". Estas investigaciones no necesitan ser "propiedad" de ninguna disciplina o campo único, escribe: "así que pon manos a la obra".

Fuente: Marginal Revolution