Tyler Cowen schreibt, er sei „very much opposed to the view that the AIs are sentient, or might be sentient“, und halte diese Position für einen Kategorienfehler mit einer verschwindend geringen Wahrscheinlichkeit, wahr zu sein. Dennoch stellt er sich weitgehend auf die Seite von Roon — einem Forscher, der für Kommentare zu KI-Verhalten und Skalierung bekannt ist — der schreibt:

there are some number of bad abstractions in anthropomorphizing ai intents but there are at this point more dangers from avoiding anthropomorphism at all costs. if you have a mental picture of guys living in computers, it'll likely prepare you for the future better than otherwise

Die Debatte darüber, wie stark man KI-Systeme als menschenähnlich behandeln sollte, hat sich ausgeweitet, da Chatbots immer breiter genutzt werden und Forschende sowie politische Entscheidungsträger abwägen, ob Intuitionen über Bewusstsein helfen oder in die Irre führen, wenn sie auf Systeme angewandt werden, die auf von Menschen erzeugten Texten trainiert wurden.

Cowen merkt an, dass er zwar nicht per se ein Friedman-Anhänger in der ökonomischen Methodik sei, aber diese Perspektive seit langem gewohnt sei und damit problemlos umgehen könne — dasselbe gelte für Alex T. Gemeint ist Milton Friedmans Aufsatz „The Methodology of Positive Economics“, der argumentierte, dass Theorien nach der Genauigkeit ihrer Vorhersagen und nicht nach der Realität ihrer Annahmen beurteilt werden sollten — ein Blickwinkel, unter dem ein nützliches, aber wörtlich falsches mentales Modell von KI dennoch wertvoll sein kann. Nichts davon erscheine ihm seltsam oder unzulässig.

Er warnt jedoch ausdrücklich davor, im Gespräch mit anderen sehr vorsichtig zu sein, sei es gegenüber der weniger informierten Öffentlichkeit oder gegenüber informierten Insidern, „who often come down with AI psychosis.“ Soweit diese Debatte öffentlich sei, könne Pragmatismus gegen diesen Ansatz sprechen, auch wenn er methodisch vertretbar sei. Es hänge, so schreibt er, davon ab, wie psychologisch belastbar das Publikum sei.

Cowen argumentiert, dass noch viel Arbeit nötig sei, um zu verstehen, wie sich AIs von Menschen unterscheiden könnten. Roon fügt hinzu:

there are important ways in which ai psychology diverges from human psychology after lots of RL; the misaligned models are obsessed with the Scorer, the clearly "shattered" nature of personas (a normally helpful model can become deeply misaligned in certain domains)

Und:

persona selection is clearly far less clean than many people thought earlier this year. it is not alignment by default and what kind of object a "persona" is is very much up for debate and study

Steht die Wahrscheinlichkeit auch höher, dass AIs im weiteren Verlauf der Debatte sehr kurios werden? Wie stark gilt das eigentlich für Menschen? Cowen schreibt, er sei sich nicht sicher.

Abschließend erklärt er, es gebe in diesem Bereich noch sehr viel zu tun, und nennt ihn „one of the most important things you can be working on.“ Diese Untersuchungen müssten auch nicht von einem einzelnen Fachgebiet oder einer einzelnen Disziplin „owned“ werden, schreibt er: „so dig right in.“

Quelle: Marginal Revolution