Marginal Revolution, el veterano blog de economía escrito en conjunto por los economistas de la Universidad George Mason Tyler Cowen y Alex Tabarrok, ha dirigido sus críticas contra un argumento familiar que circula entre los defensores de la seguridad de la IA, y lo ha sumado a lo que el autor llama una creciente colección de falacias financieras.

El intercambio se originó en X, donde un participante observó que “muchos (¿la mayoría? ¿casi todos?) de los escenarios malos tienen puntos intermedios de gran preocupación y catástrofe”. Una respuesta descartó la premisa de plano: “No según mi modelo. Para cuando algún humano empiece a preocuparse por una toma de control o por morir, las IA ya controlan toda la infraestructura”. (publicación original)

Al escribir en Marginal Revolution el 14 de agosto, el autor señala que esta línea de argumentación —sobre si la catástrofe de la IA llegaría con o sin señales de alerta visibles— surge a menudo y “es otro ejemplo más de un mal ‘punto de seguridad de la IA’ que no se sostiene”.

La objeción central es que quien formula la afirmación la refuta él mismo. “¡Él ya es un humano preocupado por una toma de control o por morir!”, señala la entrada. Resulta extraño sostener al mismo tiempo que “veo venir estos problemas” y que, “a medida que estos problemas se multiplican y se hacen más públicos, digamos a través de ciberincidentes, otras personas y también los mercados no se enterarán”.

Esa postura, argumenta el autor, equivale a “asignarse a sí mismo un estatus epistémico notablemente oracular y apenas concedérselo a alguien más”. Dos preguntas adicionales afilan la crítica: “Si los datos que están por llegar no persuadirán a nadie más de tu punto de vista, ¿por qué sostienes tu opinión con tanta firmeza? ¿O, si crees que el desenlace final será tan repentino y sigiloso, cómo es que tú sí estás tan al tanto del futuro ahora?”. El veredicto del autor es que “todo esto es obviamente absurdo, aunque no sea autocontraditorio en el sentido lógico estricto”.

En un apartado separado se pondera la lógica de cubrirse frente a la catástrofe con opciones de venta —contratos que ganan valor cuando el activo subyacente cae—: “si el mundo termina de repente y compraste los puts con tus ahorros pero no puedes cobrarlos, terminas muriendo de todos modos sin haber reducido tu nivel real de consumo”.

La entrada aborda luego los contraargumentos planteados por Rob Wiblin —director de investigación de 80,000 Hours, la organización sin fines de lucro dedicada a la orientación profesional del altruismo eficaz que incluye la seguridad de la IA entre sus causas prioritarias—, quien “saca a relucir un montón de objeciones de la sección de comentarios de MR que pueden refutarse con facilidad”. (la publicación de Wiblin) Ante la objeción de que no saber qué acciones vender en corto constituye “un gran problema”, la respuesta del autor es que “entonces el riesgo no es tan sistémico”. Quien crea que “el mundo verá algunos eventos calamitosos significativos en los próximos diez años”, con la evidencia “acumulándose”, debería estar comprando algunos puts incluso sin certeza sobre el momento oportuno —y, añade, “no necesitas contratos de opciones que duren diez años”—. Con ese razonamiento, “los defensores de la seguridad de la IA con puntos de vista relativamente extremos deberían estar difundiendo estas ideas entre sus seguidores, no retirarlas”.

El artículo cierra con una digresión sobre los motivos, reconocida como tal por el propio autor. Aunque no es “partidario del psicoanálisis como método para diseccionar opiniones”, la observación de que “el número y el alcance de los errores directos obvios sobre este tema (y de personas muy inteligentes) es tan alto que uno no puede menos que preguntarse” da pie a una justificación imaginada: “100.000 millones de dólares en costos cibernéticos adicionales no son una preocupación lo bastante significativa, es algo demasiado mundano, un porcentaje demasiado pequeño del PIB, un problema demasiado normal y tecnocrático… ¡no puedes quitarme mi miedo más grande y más dramático! ¡No voy a permitir que lo hagas! Y además, esa opinión es el pegamento social que mantiene unido a mi grupo”.

La entrada, titulada “Adding to the barrel of finance fallacies” (Sumando una más al barril de falacias financieras), apareció en Marginal Revolution.