El libertario Cato Institute advierte que una pausa obligatoria por el gobierno en el desarrollo de la inteligencia artificial podría blindar a las empresas dominantes frente a la competencia y retrasar tecnologías beneficiosas, una advertencia emitida mientras legisladores y ejecutivos de IA impulsan nuevas restricciones para el sector. La forma en que Washington decida finalmente regular la tecnología podría determinar no solo cómo se supervisa la seguridad, sino qué empresas pueden desarrollar y desplegar sistemas de IA.

En una publicación de blog publicada el lunes, Jennifer Huddleston, investigadora de políticas tecnológicas del think tank, argumentó que las empresas pueden abordar peligros específicos mediante salvaguardas voluntarias y estándares compartidos sin detener el desarrollo de toda la industria.

“Una pausa obligatoria por el gobierno plantearía varias inquietudes y probablemente no cumpliría las mejoras de seguridad que alega”, escribió Huddleston, y añadió que las reglas gubernamentales tardan en redactarse y aún más en modificarse. “Un marco regulatorio diseñado para los modelos actuales puede obstaculizar activamente a los del mañana, impidiendo respuestas que podrían ser mejores o más seguras”.

Huddleston reconoce los riesgos de la IA, pero advierte que las reglas diseñadas en torno a los desarrolladores líderes podrían ayudarlos a consolidar poder y limitar la competencia, una forma de captura del mercado que dificultaría que las empresas más pequeñas pudieran competir. También argumentó que pausar el desarrollo en EE.UU. podría debilitar las defensas de ciberseguridad del país mientras los rivales extranjeros siguen avanzando.

Sus comentarios siguen a una propuesta del senador Bernie Sanders, independiente de Vermont, y del representante Greg Casar, demócrata de Texas, para pausar el desarrollo de la IA avanzada hasta que se establezcan estándares federales de seguridad y prohibir permanentemente la superinteligencia artificial, un sistema hipotético capaz de igualar o superar el desempeño humano en la mayoría de las tareas cognitivas. Los llamados a una desaceleración deliberada ya se habían manifestado antes: en marzo de 2023, una carta abierta organizada por el Future of Life Institute y firmada por miles de personas, entre ellas Elon Musk, instó a los laboratorios de IA a pausar el entrenamiento de sistemas más potentes que GPT-4 durante al menos seis meses. Mientras tanto, CEO de OpenAI, Sam Altman, ha respaldado un desarrollo más lento y ha exhortado a las empresas a fortalecer sus salvaguardas sin esperar las reglas federales que él mismo apoya.

“Muchos de estos llamados vienen acompañados de escenarios de ciencia ficción sobre el fin del mundo acerca de lo peor que podría suceder”, escribió Huddleston. “Sin embargo, regular con apuro por miedo podría tener consecuencias negativas a más largo plazo que el riesgo que dice abordar”.

Jack Dorsey, presidente y cofundador de Block y cofundador de Twitter, expresó preocupaciones similares sobre la competencia en una publicación en X el lunes.

“Las empresas que lideran la inteligencia de máquinas merecen ser escuchadas. Tienen experiencia e intereses comerciales que proteger”, escribió Dorsey. “Las reglas diseñadas en torno a sus recursos podrían hacer que sean los únicos capaces de participar. Una preocupación sincera por la seguridad puede igualmente generar una barrera de entrada”.

Dorsey dijo que favorece los lanzamientos abiertos que los investigadores puedan inspeccionar, modificar y probar, con evaluaciones y limitaciones conocidas publicadas para que terceros puedan cuestionar las afirmaciones de seguridad de los desarrolladores.

“Apoyo el escrutinio. Me opongo a los límites para toda la industria negociados por los líderes actuales, porque podrían excluir a las personas que podrían exponer fallas o construir alternativas”, escribió. “Preservar la ventaja comercial de una empresa no es un objetivo de seguridad”.

Dorsey también dijo que apoya las pruebas independientes y la aplicación de normas con rendición de cuentas pública, incluida la retención de modelos cuando la evidencia muestre que su lanzamiento aumentaría materialmente riesgos catastróficos que medidas más acotadas no pueden abordar adecuadamente.

“El cómputo puede desencadenar escrutinio sin limitar el desarrollo. La examinación no es un permiso de un regulador o de un competidor”, dijo. “No quiero requisitos generales de aprobación ni períodos de espera. Cualquier retraso obligatorio en la publicación por motivos de seguridad debe justificarse por la excepción de riesgo catastrófico”.

El debate sobre cómo gobernar la IA sigue sin resolverse. Un análisis reciente del Atlantic Council sostiene que la presión competitiva exige estándares de seguridad de IA exigibles, mientras que la desconfianza entre Estados Unidos y China complica los acuerdos internacionales. La cooperación entre desarrolladores también genera inquietudes antimonopolio: OpenAI ha preguntado a los legisladores si los desarrolladores rivales podrían acordar legalmente frenar el desarrollo. Si se redactan o no estándares federales de seguridad, y cómo los reguladores traten finalmente la coordinación entre desarrolladores, ayudará a definir la próxima fase del debate.