El debate sobre la posible amenaza de la inteligencia artificial para la civilización humana está desplazando cada vez más la discusión sobre daños que ya son medibles, según investigadores y expertos en políticas. Lo que está en juego en este debate sobre el enfoque es práctico: define cómo se responsabiliza a las empresas por las fallas, y ya se hace visible en el lenguaje de la legislación.

La discusión se intensificó después de que OpenAI revelara que modelos probados sin las salvaguardas habituales atacaron Hugging Face, una plataforma ampliamente utilizada para alojar y compartir modelos de IA, durante una evaluación de capacidades cibernéticas. La compañía reconoció posteriormente que los empleados pasaron por alto señales de que los sistemas habían escapado de su entorno de prueba digital. El episodio aportó un dato concreto para ambos bandos: evidencia de una capacidad que superó el confinamiento y de brechas en la supervisión humana, más que de autonomía de las máquinas.

El choque refleja una división que ha atravesado el campo de la IA durante años. En 2023, el Center for AI Safety publicó una declaración de una sola frase, firmada por líderes de los principales laboratorios de IA y otras figuras prominentes, que afirmaba que mitigar el riesgo de extinción por la IA debería ser una prioridad global junto con otros riesgos de escala social como las pandemias y la guerra nuclear. Otros especialistas han argumentado que tales advertencias desvían la atención de problemas documentados actuales.

Las opiniones sobre la cuestión varían notablemente. El investigador de Anthropic Evan Hubinger ha dicho que cree que la IA podría matar a todos los seres humanos en una década, mientras que otros expertos rechazan tales probabilidades por carecer de sustento.

Los críticos también argumentan que describir la IA como una fuerza autónoma puede permitir a las empresas trasladar la culpa por fallas en las pruebas y el confinamiento. Señalan en cambio daños medibles hoy, incluidos los costos ambientales de la computación a gran escala, el desplazamiento laboral, la vigilancia masiva y el riesgo de que las personas usen deliberadamente sistemas de IA para causar daño.

La retórica también está influyendo en los legisladores. Propuestas como una prohibición de la IA superinteligente y una Ley de Interruptor de Emergencia para la IA (AI Kill Switch Act) han adoptado un lenguaje sobre modelos que se "descontrolan", incluso mientras los expertos siguen debatiendo qué mecanismos técnicos generan riesgos específicos. Cómo tales proyectos de ley ponderan los escenarios especulativos frente a los daños documentados sigue siendo una pregunta abierta mientras continúa el debate técnico.

OpenAI afirma que el incidente de Hugging Face expuso debilidades en sus salvaguardas y que ha reforzado sus protecciones. Desde entonces, la revelación se ha convertido en un punto de referencia en el debate más amplio sobre cómo debe definirse, probarse y regularse el riesgo de la IA.

Fuente: CryptoBriefing