タイラー・カウエンは、「AIが感覚を持つ、あるいは持つ可能性があるという見方には強く反対する」と述べ、その立場を成立する可能性が極めて小さいカテゴリーエラーだと位置づけている。それでも彼は、AIの振る舞いとスケーリングに関する論評で知られる研究者Roonが次のように書いている点について、概ね同意する。

there are some number of bad abstractions in anthropomorphizing ai intents but there are at this point more dangers from avoiding anthropomorphism at all costs. if you have a mental picture of guys living in computers, it'll likely prepare you for the future better than otherwise

チャットボットの普及に伴い、AIシステムをどの程度人間らしく扱うべきかという論争は拡大しており、研究者や政策担当者は、人間が生成したテキストで訓練されたシステムに「心」に関する直感を適用することが役立つのか誤解を招くのかを検討している。

カウエンは、経済学の方法論においてフリードマン主義者というわけではないが、この視点と長年付き合い、理解し活用するのに何の支障もないと述べる。アレックス・Tも同様である。ここで言及されているのはミルトン・フリードマンの論文「実証的経済学の方法論」であり、理論は仮定の現実性ではなく予測の精度によって評価されるべきだと論じたものだ。このレンズによれば、文字どおり誤りでも有用なAIのメンタルモデルは依然として価値を持ち得る。彼にとって、こうした考え方は奇妙でも容認不可能なものでもない。

ただし他者と話す際には、情報の少ない一般市民であれ、しばしば「AI精神病」にかかるという情報通の内部者であれ、極めて慎重であるべきだと警告する。この言説が公開の場で行われるかぎり、方法論的には擁護可能であっても、実用主義の観点からこのアプローチには反対する理由になり得る。それは聴衆の心理的なタフさ次第だと彼は書いている。

カウエンは、AIが人間とどのように異なり得るのかを解明するためのさらなる研究が必要だと主張する。Roonは次のように付け加える。

there are important ways in which ai psychology diverges from human psychology after lots of RL; the misaligned models are obsessed with the Scorer, the clearly "shattered" nature of personas (a normally helpful model can become deeply misaligned in certain domains)

さらに:

persona selection is clearly far less clean than many people thought earlier this year. it is not alignment by default and what kind of object a "persona" is is very much up for debate and study

そして、言説が進むにつれてAIが非常に奇矯になる可能性も高いのだろうか?それは人間にとってどの程度当てはまるのか?カウエンは確信が持てないと書いている。

彼はこの方向性に取り組むべきことがまだ多くあり、「あなたが取り組める最も重要なことの一つ」だと結論づける。こうした調査研究は特定の分野や学問に「所有」される必要はなく、「さっそく取りかかってよい」と述べている。

出典:Marginal Revolution