NoticiasMacroTyler Cowen de Marginal Revolution pide rigor científico en el debate sobre riesgos de seguridad de la IA

Tyler Cowen de Marginal Revolution pide rigor científico en el debate sobre riesgos de seguridad de la IA

Autor: Marginal Revolution·

Puntos clave

  • •Tyler Cowen argumenta que las afirmaciones alarmistas tras el incidente de OAI/HuggingFace carecen de suficiente sustento científico.
  • •Cowen solicita que las partes preocupadas proporcionen una metodología concreta para cuantificar los costos de ciberseguridad atribuibles a la IA en un horizonte de dos a tres años.
  • •Pide estimaciones numéricas específicas de costos que puedan rastrearse y evaluarse frente a resultados reales con el paso del tiempo.
  • •Cowen reclama la divulgación de cualquier acción o activo en venta en corto, señalando que sus propios costos esperados son lo suficientemente bajos como para no tomar esa posición.
  • •La publicación aboga por fundamentar los debates de política de seguridad de la IA en evidencia falsable, en lugar de lo que Cowen describe como gestión de la ansiedad personal.
Tyler Cowen de Marginal Revolution pide rigor científico en el debate sobre riesgos de seguridad de la IA

Tras el reciente incidente de OAI/HuggingFace y desarrollos relacionados, ha surgido una ola de predicciones catastróficas y preocupaciones serias en diversos canales de análisis. Sin embargo, el blog de economía Marginal Revolution, coescrito por el economista de la George Mason University Tyler Cowen, argumenta que la mayoría de estas afirmaciones alarmistas carecen de suficiente sustento.

En una publicación titulada "Act like it is science", Cowen lanza un desafío directo a quienes lanzan advertencias: adoptar los métodos de la ciencia para construir un argumento convincente. La publicación refleja la postura metodológica de larga data de Cowen —ampliamente reconocida en círculos académicos de economía y política— de que los argumentos de política deben fundamentarse en evidencia cuantificable y predicciones falsables, y no en llamados cualitativos a escenarios del peor de los casos. Específicamente, la publicación solicita lo siguiente a quienes deseen persuadir a los escépticos:

  1. Una metodología para estimar los futuros costos de ciberseguridad. Cowen pide un esquema de cómo, en un plazo de dos a tres años, se podría cuantificar el costo adicional de ciberseguridad atribuible a brechas de seguridad relacionadas con la IA. Reconoce que es probable que esta cifra no sea cero, pero insiste en un método de estimación concreto. Como referencia, la publicación enlaza a un estudio sobre costos pasados de ciberseguridad realizado por economistas destacados.

  2. Una estimación numérica actual de esos costos potenciales, que deberá evaluarse frente a los resultados reales con el paso del tiempo. Cowen señala que los encuestados pueden ofrecer estimaciones para múltiples escenarios regulatorios y de seguridad, y lo plantea como una forma directa de demostrar credibilidad analítica, incluso si la confirmación llega con demora. La publicación aclara que dichas estimaciones no necesitan sustituir las medidas de seguridad preferidas de cada quien, pero urge especificidad en las predicciones.

  3. Una revelación de cualquier acción u otro activo en venta en corto en este momento. Si la estimación de costos del segundo punto es suficientemente baja —como lo sería la del propio Cowen—, la respuesta podría legítimamente ser cero. Afirma que, si bien se esperan costos, es poco probable que sean tan graves que la sociedad no pueda sortearlos mientras aún se anticipan rendimientos bursátiles positivos. La solicitud de divulgación refleja una práctica académica más amplia de pedir a los analistas que registren sus convicciones, de modo que sea posible evaluar si las previsiones más catastróficas se cumplen frente a los resultados observados con el tiempo.

La publicación concluye que adoptar estas prácticas elevaría la conversación a un nivel más científico y la alejaría de lo que Cowen describe como "un ejercicio prolongado de gestión de la ansiedad personal". Si el tema es verdaderamente tan crítico como sostienen quienes lo plantean, argumenta, el esfuerzo requerido para producir un análisis tan riguroso está plenamente justificado.

El artículo fue publicado en Marginal Revolution.