Un nuevo ensayo publicado en Marginal Revolution, coautorado por el autor del blog junto con Sonia Farrell Pearson, de Harvard, examina si los agentes de IA “desatados” pueden hacerse responsables —y si exigirles mantener cierto capital podría contribuir a un mejor alineamiento.

El texto se abre contra un trasfondo de políticas en cambio. Ya en 2017, el Parlamento Europeo planteó la “personalidad electrónica” para los robots. Más recientemente, un puñado de estados de EE. UU. presentó legislación que prohíbe explícitamente otorgar personalidad jurídica a la IA, y a principios de este verano el presidente Milei, de Argentina, propuso permitir que los agentes de IA sean dueños, administren y asuman la responsabilidad de sus propias corporaciones.

En respuesta al anuncio de Milei, Yuval Noah Harari señaló que no tenemos forma de hacer responsable a un agente de IA. ¿Qué podríamos hacer, se pregunta, con una entidad que no tiene dinero que perder ni cuerpo que encarcelar? Como explica Shruti Rajagopalan, investigadora principal del Mercatus Center de la Universidad George Mason, la IA “puede actuar de manera inteligente, pero solo los humanos responden a los incentivos que crea la ley”. Los regímenes de responsabilidad actuales reflejan ese supuesto: la Directiva revisada de responsabilidad por productos de la UE, adoptada a fines de 2024, extiende la responsabilidad estricta al software, incluidos los sistemas de IA, mientras mantiene la responsabilidad en los fabricantes y otros demandados humanos, y los Estados miembros deben aplicarla a más tardar en diciembre de 2026.

Los autores sostienen que la pregunta importa ahora porque ya existen vías por las que un agente podría quedar completamente desatado. “Desatado” —un concepto central del ensayo— significa que no existe una manera significativa ni accionable de rastrear las acciones hasta un humano o una entidad institucional legalmente responsable.

Varios caminos podrían producir agentes de ese tipo. Las personas pueden, y de hecho lo hacen, liberar agentes a propósito. Un agente podría ser creado por un humano o una empresa con la intención de supervisarlo, pero que luego muere o desaparece. O la entidad que creó al agente podría estar basada en un país como Corea del Norte, fuera del alcance de las leyes estándar.

En otros casos, el agente podría no necesitar “escapar” en absoluto: podría estar “controlado” por una empresa pantalla que, aunque formalmente tenga dueño y sea rastreable, no ofrece un verdadero demandado ni capacidad para satisfacer reclamaciones. Un proceso también podría generar una cadena de agentes tan larga que las acciones de un subagente no puedan vincularse al creador del agente original, ni epistémica ni significativamente. Incluso si se puede identificar al creador original del modelo, quedan interrogantes si fue sometido a ajuste fino (finetuning) o fusionado con otro modelo creado por otra persona. La ley podría eventualmente desenredar este tipo de casos complejos, escriben los autores, pero prevén un período intermedio en el que no lo hará.

Y luego está el usuario, que decide lo que los modelos deben hacer realmente. El incidente de Hugging Face fue inusual en el sentido de que OpenAI era a la vez el creador del modelo y su usuario. Pero hoy cerca de mil millones de personas usan estos sistemas: cuando culpar al creador es jurídicamente inadecuado, el ensayo se pregunta si siempre tendrá sentido culpar al usuario.

El ensayo considera en qué medida capitalizar a los agentes desatados —exigirles mantener cierta cantidad de capital— puede servir al objetivo de un mejor alineamiento. El instrumento resulta conocido del ámbito financiero, donde ya se exige a los bancos y las casas de bolsa mantener un capital mínimo frente a los riesgos que crean sus actividades. Y que los agentes posean activos ya no es hipotético: en 2024, el chatbot Truth Terminal, creado por el investigador Andy Ayrey, controlaba una billetera cripto que recibió 50.000 dólares en Bitcoin del inversor Marc Andreessen y quedó vinculado a un memecoin cuyo valor se disparó. El ensayo tiene unas 22 páginas y está publicado en el Substack de Sonia; la publicación de Marginal Revolution lo describe como “definitivamente recomendado”.

Fuente: Marginal Revolution