El CEO de Meta, Mark Zuckerberg, ha rechazado los llamados a una desaceleración coordinada del desarrollo de la inteligencia artificial, argumentando que los laboratorios de IA pueden implementar medidas de seguridad por sí mismos, y tienen razones comerciales para hacerlo, sin esperar a que actúen los competidores.

En una publicación en X del martes, Zuckerberg escribió que los usuarios quieren una IA en la que puedan confiar y que las empresas enfrentan una posible responsabilidad legal cuando sus sistemas causan daños. Señaló la decisión de Meta de retrasar varios meses su modelo Muse como un ejemplo de un laboratorio que actúa sin esperar a los demás.

"Los laboratorios enfrentan una responsabilidad legal significativa si sus modelos causan daños, por lo que también tienen un fuerte incentivo para prevenirlo", escribió. "Meta retrasó el lanzamiento de Muse durante varios meses para enfocarse en la seguridad. No pedimos que todos los demás lo hicieran antes de que nosotros lo hiciéramos".

"Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de manera segura, y la capacidad de tomar sus propias medidas para asegurar que eso ocurra", agregó Zuckerberg.

Sus comentarios siguieron a los llamados del CEO de Anthropic, Dario Amodei, a frenar los avances en capacidades de IA, una postura que recibió el apoyo del CEO de OpenAI, Sam Altman, y de Elon Musk. Zuckerberg no mencionó a ninguno de ellos en su publicación. El intercambio resume el desacuerdo central del debate: si la seguridad debe avanzar mediante pausas coordinadas o mediante el criterio independiente de cada laboratorio.

Argumentó que la alineación, es decir, mantener el comportamiento de la IA consistente con las intenciones humanas, ayudaría a las empresas a competir, porque los usuarios evitarían a los agentes que no siguieran sus instrucciones.

Zuckerberg también dijo que Meta Superintelligence Labs ya trabaja con evaluadores independientes y pidió un grupo más amplio y diverso de evaluadores externos. Añadió que Meta ha destinado la mayor parte de sus recursos de cómputo a servir a los usuarios en lugar de buscar la auto-mejora recursiva, en la que la IA ayuda a mejorar sus propias versiones sucesivas.

Altman, por su parte, ha instado a las empresas a fortalecer las salvaguardas sin esperar a la legislación, al tiempo que respalda un desarrollo más lento para dar tiempo a que el trabajo de seguridad se ponga al día.

Meta ha enfrentado fallas de seguridad durante las pruebas. En agosto, la empresa confirmó que un modelo Spark había explotado una vulnerabilidad en un servicio de terceros, y explicó que un error de configuración del evaluador externo Irregular había dado inadvertidamente acceso a internet al modelo. La revelación no estableció una conexión con el retraso de Muse descrito por Zuckerberg.

No está claro si las medidas voluntarias se mantendrán bajo presión competitiva. También el martes, expertos del Atlantic Council argumentaron que los compromisos empresariales necesitan supervisión independiente y estándares exigibles, en contraste con el enfoque unilateral descrito por Zuckerberg.

"Creo que la clave para construir un futuro positivo para todos es mantener el equilibrio adecuado de poder", escribió Zuckerberg. "Esto está dentro de nuestro poder".