La inteligencia artificial se ha abierto paso silenciosamente en la redacción de la legislación estadounidense, y las personas responsables de que los proyectos de ley estén bien formulados dicen que el resultado es un desorden creciente.

Según Politico, el personal del Congreso y los grupos de incidencia externos recurren cada vez más a chatbots como Claude, de Anthropic, y ChatGPT, de OpenAI, para producir textos legislativos, lo que obliga a la Oficina de Asesoría Legislativa de la Cámara de Representantes (OLC), la oficina no partidista que ayuda a los miembros de la Cámara a redactar proyectos de ley, a limpiar los errores que dejan.

"La IA es buena para muchas cosas", dijo Daniel Schuman, director ejecutivo del American Governance Institute. "Pero no es capaz de redactar legislación que uno querría promulgar como ley".

Una persona que asesora a oficinas del Congreso dijo que la OLC ahora dedica "más tiempo a intentar corregir legislación redactada por IA del que le tomaría redactarla desde cero", y señaló que los modelos de IA, al parecer, tropiezan con distinciones legales sutiles, como si la financiación debería estructurarse como "un crédito fiscal, una deducción, una exclusión o una subvención".

El problema de precisión se ve agravado por una limitación bien documentada de la tecnología: los chatbots ensamblan texto fluido en lugar de basarse en fuentes legales verificadas, y se sabe que inventan casos, citas y disposiciones, un modo de falla conocido como alucinación. Los tribunales federales se toparon con el problema a los pocos meses del lanzamiento público de ChatGPT a fines de 2022: en 2023, un juez federal en Nueva York sancionó a abogados que presentaron un escrito que citaba seis decisiones judiciales inventadas por ChatGPT.

Un miembro del personal del Congreso encargado de hacer una lectura profunda de la legislación propuesta dijo que los legisladores no tienen idea de lo que se avecina debido a errores y citas que no resistirán el escrutinio cuando surjan conflictos.

"Es absolutamente aterrador, y nadie está pensando en ello todavía", dijo el miembro del personal.

Lo que está en juego es particular del medio: las leyes, a diferencia de los memorandos o los discursos, se convierten en texto vinculante una vez promulgadas, y su redacción exacta es lo que los tribunales y las agencias federales deben interpretar y hacer cumplir. Los errores que llegan a la ley generalmente requieren nueva legislación para corregirse, por lo que el trabajo de limpieza de la OLC es, en la práctica, el último control antes de que los errores de redacción se vuelvan permanentes.

Los riesgos no son hipotéticos, informa Politico. En junio, la oficina de la representante Anna Paulina Luna (R-FL) publicó un resumen de enmienda que aún contenía la frase sin editar del chatbot "Claude responded" ("Claude respondió"). Luna reconoció en X que "mi personal usó IA para corregir un borrador y no lo editó", una revelación que en su momento generó alertas.

Ari Hershowitz, abogado y tecnólogo que ha trabajado con esa oficina para integrar herramientas tecnológicas en el proceso legislativo, dijo que sin controles, la práctica es "una forma garantizada de introducir miles de errores en nuestro sistema legal".