Tyler Cowen pisze, że jest „very much opposed to the view that the AIs are sentient, or might be sentient”, uznając takie stanowisko za błąd kategorialny o znikomo małej szansie prawdziwości. Mimo to w dużej mierze zgadza się z Roonem — badaczem znanym z komentarzy na temat zachowania AI i skalowania — który pisze:

there are some number of bad abstractions in anthropomorphizing ai intents but there are at this point more dangers from avoiding anthropomorphism at all costs. if you have a mental picture of guys living in computers, it'll likely prepare you for the future better than otherwise

Debata o tym, jak bardzo traktować systemy AI jak istoty podobne do ludzi, nasiliła się wraz z powszechnym użyciem chatbotów, a badacze i decydenci zastanawiają się, czy intuicje dotyczące umysłów pomagają, czy wprowadzają w błąd, gdy stosuje się je do systemów trenowanych na tekstach generowanych przez ludzi.

Cowen zauważa, że choć nie jest Friedmanite w metodologii ekonomicznej per se, od dawna żyje z taką perspektywą i nie ma problemu z jej rozumieniem ani stosowaniem — to samo dotyczy Alexa T. Odniesienie dotyczy eseju Miltona Friedmana „The Methodology of Positive Economics”, który argumentował, że teorie należy oceniać na podstawie trafności ich prognoz, a nie realizmu założeń — to spojrzenie, w którym użyteczny, lecz dosłownie fałszywy model myślowy AI może nadal mieć wartość. Nic z tego nie wydaje mu się dziwne ani nie do przyjęcia.

Jednocześnie ostrzega czytelników, by zachowywali bardzo dużą ostrożność w rozmowach z innymi, czy to z mniej poinformowaną opinią publiczną, czy z lepiej zorientowanymi insiderami „who often come down with AI psychosis.” O ile ten dyskurs jest publiczny, pragmatyzm może przemawiać przeciwko takiemu podejściu, nawet jeśli jest ono metodologicznie obronione. Zależy to, pisze, od tego, jak psychologicznie odporny jest odbiorca.

Cowen twierdzi, że potrzeba więcej pracy, aby ustalić, czym AI mogą różnić się od ludzi. Roon dodaje:

there are important ways in which ai psychology diverges from human psychology after lots of RL; the misaligned models are obsessed with the Scorer, the clearly "shattered" nature of personas (a normally helpful model can become deeply misaligned in certain domains)

I:

persona selection is clearly far less clean than many people thought earlier this year. it is not alignment by default and what kind of object a "persona" is is very much up for debate and study

Czy AI mają też większą skłonność do stawania się bardzo dziwacznymi, gdy dyskurs się rozwija? Jak bardzo dotyczy to ludzi? Cowen pisze, że nie jest pewien.

Kończy stwierdzeniem, że w tym kierunku jest jeszcze wiele do zrobienia, nazywając to „one of the most important things you can be working on.” Te badania nie muszą być „owned” przez jedną dziedzinę lub dyscyplinę, pisze: „so dig right in.”

Source: Marginal Revolution