El CEO de Anthropic, Dario Amodei, rechazó las afirmaciones de que su startup de IA respalda una prohibición de los modelos de peso abierto para proteger su posición competitiva, después de que Anthropic estuviera notablemente ausente de una carta firmada por muchas de las principales firmas de IA.

Empresas líderes del sector de la IA, incluidas Nvidia, Palantir y otras, participaron en la carta y anunciaron una asociación en la Open Secure AI Alliance, que busca desarrollar y compartir tecnologías más abiertas para mejorar la seguridad en la era de la IA, dado que los riesgos pueden surgir tanto de los modelos abiertos como de los cerrados. El intercambio subraya un debate activo en la industria de la IA sobre cuánta apertura respalda mejor la seguridad, el acceso y la competencia a medida que avanzan las capacidades de los modelos.

Amodei escribió en una publicación en el sitio web de Anthropic: "Anyone who has read my past writing should know that I don't regard such bans as a useful measure, but let me state it clearly so that there is no doubt: Anthropic has never advocated for a ban on open-weight models."

"But I don't agree with the letter's assertions that open-weights models necessarily make it easier to develop safeguards or that broad access to capabilities necessarily helps defenders more than attackers. It seems at least as likely to me that the opposite will be true," escribió, y añadió que las armas biológicas podrían tener ventaja sobre las defensas contra ellas.

Amodei dijo que considera que los modelos de peso abierto que no tienen capacidades peligrosas son un bien público, ya que su costo se limita a la computadora necesaria para operarlos, y aportan valor a empresas, desarrolladores e investigadores.

También agregó que coincidía con gran parte de la carta abierta, en particular con el valor de los modelos de peso abierto para ampliar el acceso a la economía de la IA, fortalecer la competencia y dar a los clientes más control.

"To summarize my and Anthropic's position, we have not and are not advocating for a ban on open-weights models as a category. We should instead focus on keeping powerful chips out of authoritarian hands, stopping industrial-scale distillation, and requiring safety testing of all sufficiently capable models, open and closed," escribió Amodei.

La carta de Amodei se publicó horas después de que el CEO de Palantir, Alex Karp, cuya empresa firmó la carta que respalda el uso de modelos de IA de peso abierto, dijera en una entrevista exclusiva en "The Claman Countdown" de FOX Business Network que resistirse a la competencia podría dejar a la industria tecnológica menos dinámica, como en Europa.

Karp dijo que no es "not anti-Anthropic" ni se opone a todos los modelos cerrados, pero añadió: "If you want to win, you have to compete on the battlefield."

"Our job has to be to have the best AI in the world, if you're going to actually say we're going to restrict all the products to U.S. commercial, but they're not going to be restricted abroad, which they're not, you're de facto setting up a two-stage thing where no one can claim we have the best products in the world. It's complete insanity," dijo Karp.

"We are building our platform in the U.S. government on the open-weight side with Nvidia. We can get the best performance in the world with a totally American company, using American open-weight companies and American GPUs. We don't have to hide behind some kind of fake thing," dijo Karp.