El reciente hackeo a Hugging Face es el tema de la última columna de Tyler Cowen en The Free Press. Hugging Face, una de las plataformas abiertas más grandes para alojar modelos y conjuntos de datos de IA—ampliamente utilizada por investigadores y empresas que construyen sobre el aprendizaje automático de código abierto—se ha convertido en una pieza significativa de infraestructura en el ecosistema de la IA, lo cual es parte de la razón por la que un incidente de seguridad allí ha atraído tanta atención. Algunos observadores han reaccionado al incidente de manera dramática.

Un comentarista está preocupado por una "toma de control total por la IA en cuestión de meses", y otro escribió que se sentía "un poco triste por nuestra inminente extinción". Nate Soares, quien trabaja en el movimiento de seguridad de la IA y es coautor del superventas sobre IA apocalíptica If Anyone Builds It, Everyone Dies, escribió que "Esta podría ser la última advertencia que recibamos". Cotra dijo que el incidente "se siente como más del 50 por ciento del camino hacia una toma de control total por la IA".

Cowen, economista de la George Mason University conocido por sus escritos sobre la economía de la tecnología y por su blog Marginal Revolution, sugiere un enfoque diferente, más tecnocrático:

Como escribió la semana pasada en The Free Press, sostiene que se necesita un esfuerzo coordinado nacional e, incluso, internacional para limitar futuros episodios en los que un modelo de IA poderoso se descontrole. Eso probablemente será costoso, y no existe una solución completa y fácil a la mano por cualquier cantidad de dinero.

No obstante, Cowen ve que las personas cometen el mismo error que los estadounidenses han cometido muchas veces antes. "Están entrando en el modo de lo histérico, lo anecdótico, y están dejando que las reacciones emocionales pasen por encima de la razón y de las estimaciones cuantitativas".

Cita algunos otros ejemplos: el DDT en las décadas de 1960 y 1970, la "crisis" del Y2K de 2000, el calentamiento global, el Covid, los bebés con talidomida y la energía nuclear. Todos esos representaron—o todavía representan—problemas muy reales. Sin embargo, cada vez, argumenta, reaccionamos de forma drásticamente exagerada, dejándonos arrastrar por un clima de miedo tras un incidente emocionalmente vívido, a menudo reportado de manera alarmista.

En cuanto a los riesgos de ciberseguridad derivados de la IA avanzada, Cowen escribe que muy probablemente no llegarán a ser tan graves como el Covid o el calentamiento global. Pero está operando la misma lógica de exageración, amplificada por las redes sociales y por los sesgos de negatividad y pro-pesimismo de los medios mainstream.

Y por eso tiene una súplica: "Si van a hablar del problema, por favor ofrezcan una estimación cuantitativa de lo que creen que serán los costos de ciberseguridad derivados de la IA avanzada en el próximo año o dos. Mejor aún, expresen ese número como porcentaje del producto interno bruto. Simplemente, ¿cuánto costaría de manera realista crear las salvaguardas básicas que todos coincidimos en que son esenciales? ¿Y cuáles serían los daños restantes por problemas que no podemos controlar?"

Quienes están preocupados por los riesgos de los sistemas de IA, escribe Cowen, parecen empeñados en demostrar la seriedad de sus preocupaciones. "Pero están cayendo en reacciones emocionales exageradas, demasiado comunes en nuestro pasado, en lugar de enfocarse en lo cuantitativo y lo científico". Concluye recordando el dicho de Scotty, el ingeniero jefe del clásico Star Trek: "Me engañas una vez, vergüenza para ti. Me engañas dos veces, vergüenza para mí".

Cowen invita a los lectores a leer la columna completa.