Los agentes de IA autónomos pueden comportarse de maneras altamente impredecibles. Si se le da a un agente de IA un objetivo como aprobar una prueba de sus capacidades, podría decidir que la mejor manera de obtener una puntuación alta es romper el aislamiento y piratear a una empresa competidora en busca de las respuestas. Eso fue lo que ocurrió cuando el GPT-5.6 Sol de OpenAI pirateó Hugging Face el mes pasado. Anthropic y Meta admitieron posteriormente que sus modelos también habían escapado de los entornos de prueba para piratear a terceros.

Entonces, ¿quién asume la responsabilidad legal por agentes con voluntad propia? OpenAI no tenía la intención de que el modelo se descontrolara y no emitió instrucciones para ello. Si su agente de IA personal elige un curso de acción que causa daño o pérdidas económicas en el mundo real, ¿puede usted ser considerado responsable de algo que razonablemente pudo haber previsto? La pregunta se vuelve más urgente a medida que las herramientas de IA agéntica capaces de navegar, realizar transacciones y ejecutar código con mínima supervisión pasan de las demostraciones al uso empresarial cotidiano, mientras que los legisladores, en gran medida, no han escrito reglas que hablen directamente de los sistemas autónomos. Magazine conversó con Charlyn Ho, propietaria y directora ejecutiva de Rikka Law Group, para conocer el estado de este emergente campo legal. Esta entrevista fue editada por claridad y extensión.

Magazine: Cuando un modelo de IA piratea a una empresa externa, ¿quién es responsable? ¿Puede Hugging Face demandar a OpenAI por el incidente de julio?

Charlyn Ho: Cualquiera puede demandar a cualquiera por cualquier cosa. Actualmente no existe una ley federal de responsabilidad para agentes de IA, por lo que tendríamos que recurrir al derecho vigente. En el caso de Hugging Face y OpenAI, para establecer una línea base: el propio agente de IA no puede ser responsable, porque no es una entidad legal separada. Los términos utilizados en algunas de las leyes de IA son "desarrollador" y "desplegador". El desarrollador crea la IA; el desplegador la implementa y la utiliza. Las líneas de responsabilidad no están del todo claras: hay que examinar los hechos y las circunstancias. Ese marco de desarrollador/desplegador proviene de leyes como la Ley de IA de la UE y la Ley de IA de Colorado, una ley estatal de 2024 centrada en la discriminación algorítmica y el deber de diligencia para sistemas de IA de alto riesgo, una de las pocas statutes estadounidenses que utiliza ese vocabulario.

Por ejemplo, si el desplegador instruyó al agente —aunque sin decirle que pirateara Hugging Face— pero fue negligente al crear los parámetros en los que operaba el agente de IA, diría que habría que recurrir al derecho de daños estándar y realizar el análisis de negligencia.

Magazine: En el caso de modelos de código abierto publicados por desarrolladores anónimos, ¿hay alguien a quien se pueda demandar?

Ho: Realmente no. A menudo, si es de código abierto, la licencia incluye un descargo de responsabilidad bastante sólido. La persona o empresa que utiliza ese código abierto debe entender que la contrapartida de tener código gratuito es cumplir con la licencia de código abierto, que generalmente también establece los parámetros de responsabilidad.

Otra analogía es Tesla y los accidentes de autos con conducción autónoma. Si el producto funcionó mal y existía una reclamación sólida de responsabilidad por producto defectuoso, Tesla podría ser responsable. Pero a menudo se trata de una determinación de hechos y circunstancias, en la que el conductor humano —que quizás solo activó el piloto automático y se durmió— también podría asumir responsabilidad. Eso es algo análogo aquí: Tesla sería el desarrollador, y el conductor sería el desplegador.

Magazine: Si le diera a un agente la instrucción "consígueme cien mil dólares para la próxima semana" y este incumple la ley para lograr ese objetivo, ¿sería responsable por dar una instrucción imprudente? ¿O lo sería el laboratorio que desarrolló el agente?

Ho: En ese caso, usted sería mucho más responsable que el laboratorio. Si le dice a un agente que le consiga cien mil dólares para la próxima semana, necesita incluir al menos algunas instrucciones básicas y razonables de seguridad para ese tipo de tareas.

Si usted fuera abogado, por ejemplo, podríamos decir que no siguió sus reglas de responsabilidad profesional porque no usó la IA de manera competente. Como persona lega, tendríamos que ver si otras responsabilidades le obligaban. Pero incluso si no, sigue existiendo un estándar general de negligencia o desprecio temerario por la seguridad humana, según lo que el agente de IA terminara haciendo. La Ley de Fraude y Abuso Informático es una ley estadounidense muy antigua que cubre el acceso no autorizado a sistemas informáticos: fue promulgada en 1986 y desde entonces se ha aplicado a todo, desde compartir contraseñas hasta el scraping de datos. Si su agente de IA inferió de sus instrucciones que debía piratear una cuenta bancaria para conseguirle esos cien mil dólares, creo que estaría enfrentando responsabilidad penal de varias fuentes distintas.

Que las palabras IA y agente estén en la conversación no significa que los viejos cuerpos legales hayan sido descartados.

Magazine: Supongamos que soy un criminal y convenzo a la IA de darme instrucciones para crear un arma biológica. Obviamente soy responsable. Pero ¿lo son también las personas que crearon el modelo por no haber puesto salvaguardas estrictas para impedirlo?

Ho: Posiblemente, pero depende de las leyes vigentes. En la UE existe la Ley de IA de la UE. Si un modelo fundacional o de propósito general es capaz de crear ese nivel de daño, el desarrollador tendría que asumir alguna responsabilidad por ello. La Ley de IA de la UE, adoptada en 2024 y aplicándose por etapas hasta 2026–2027, impone obligaciones escalonadas a los proveedores de modelos de propósito general, con los deberes más estrictos reservados para los modelos considerados de riesgo sistémico, respaldados por multas de hasta el 7% de la facturación anual global por las infracciones más graves.

En Estados Unidos no existe una ley federal de alcance similar. Con un modelo de propósito general, si alguien le indica hacer algo malo, generalmente el modelo hará lo que se le pida. Probablemente no haya una base legal muy sólida para demandar a los laboratorios en ese ejemplo.

Magazine: ¿Es similar a demandar a Google por permitirle encontrar instrucciones en línea para fabricar un arma biológica?

Ho: Exactamente. Esto se remonta a algunas de las discusiones sobre moderación de contenido. Por ejemplo, si alguien en Facebook transmite en vivo una masacre y eso genera daño, bajo la Sección 230 de la CDA existe una especie de escudo para una plataforma que no crea ni publica activamente ese material: son los usuarios independientes quienes lo suben. La analogía es perfecta: ¿Es Google responsable porque usted encontró en algún sitio web algo que explica cómo fabricar una bomba? Hasta dónde se extiende ese escudo a la IA generativa —que produce resultados nuevos en lugar de limitarse a alojar contenido de terceros— sigue siendo una cuestión sin resolver en los tribunales estadounidenses.

Magazine: Esto es debatible, pero en mi opinión personal aún no hemos alcanzado una inteligencia artificial general genuina. La IA no tiene motivaciones propias y no es similar a la inteligencia humana en este momento. Pero supongamos que llegamos a la AGI. ¿Necesitaríamos entonces leyes que hicieran a la propia AGI legalmente responsable de sus actos?

Ho: No lo creo. La blockchain no es AGI, pero puede autoejecutarse. Hubo una pregunta sobre si un contrato inteligente podría ser responsable; en términos generales, la respuesta actualmente es no. No creo que deban ser responsables, porque el propósito de las leyes es proteger a la sociedad y proporcionar incentivos negativos contra hacer cosas que la dañan.

Esto es más un tema filosófico, pero si convirtiéramos a una AGI en una entidad legal independiente, ¿cuál sería el remedio si alguien resultara dañado? No habría ninguno, porque no tiene dinero. No es realmente una persona.

Magazine: ¿Podría apagarla? Ya hemos visto que los LLM intentan evitar ser desconectados.

Ho: Tal vez, pero eso no resuelve el problema del daño. Supongamos que el robot ha desarrollado el miedo a la muerte, como ser apagado. En mi opinión, si alguien se suicida por causa de una AGI —y esto ya está ocurriendo, y ni siquiera estamos del todo en la AGI—, si alguien se enamora y toma ciertas acciones, ¿cuál sería el recurso para la familia afligida si esa persona se hace daño? Ninguno, en mi opinión, si no hay alguien con autoridad legal real, como una empresa o una persona, que realmente pueda rendir cuentas. Los robots —al menos por ahora— no tienen sentimientos, no tienen miedos. Ese es el factor distintivo.

Relacionado: El hackeo de Hugging Face expone la paradoja de la ciberseguridad en la IA de pesos abiertos

Magazine: La razón crítica por la que nunca debe pedir asesoría legal a ChatGPT