Le PDG d’Anthropic, Dario Amodei, a rejeté les affirmations selon lesquelles sa start-up d’IA soutient une interdiction des modèles open-weight afin de protéger sa position concurrentielle, après qu’Anthropic a notablement été absente d’une lettre signée par de nombreuses grandes entreprises de l’IA.

De grandes entreprises du secteur de l’IA, dont Nvidia, Palantir et d’autres, ont participé à la lettre et annoncé un partenariat au sein de l’Open Secure AI Alliance, qui vise à développer et partager des technologies plus ouvertes afin d’améliorer la sécurité à l’ère de l’IA, les risques pouvant provenir à la fois des modèles ouverts et fermés. Cet échange souligne un débat actif dans l’industrie de l’IA sur le degré d’ouverture qui soutient le mieux la sécurité, l’accès et la concurrence à mesure que les capacités des modèles progressent.

Amodei a écrit dans un संदेश publié sur le site d’Anthropic : « Anyone who has read my past writing should know that I don't regard such bans as a useful measure, but let me state it clearly so that there is no doubt: Anthropic has never advocated for a ban on open-weight models. »

« But I don't agree with the letter's assertions that open-weights models necessarily make it easier to develop safeguards or that broad access to capabilities necessarily helps defenders more than attackers. It seems at least as likely to me that the opposite will be true, » a-t-il écrit, ajoutant que les armes biologiques peuvent avoir un avantage sur les défenses contre elles.

Amodei a déclaré qu’il considère les modèles open-weight qui ne disposent pas de capacités dangereuses comme un bien public, car leur coût se limite à l’ordinateur nécessaire pour les faire fonctionner, et qu’ils apportent de la valeur aux entreprises, aux développeurs et aux chercheurs.

Il a ajouté qu’il partageait une grande partie de la lettre ouverte, en particulier son accent sur la valeur des open-weights pour élargir l’accès à l’économie de l’IA, renforcer la concurrence et donner davantage de contrôle aux clients.

« To summarize my and Anthropic's position, we have not and are not advocating for a ban on open-weights models as a category. We should instead focus on keeping powerful chips out of authoritarian hands, stopping industrial-scale distillation, and requiring safety testing of all sufficiently capable models, open and closed, » a écrit Amodei.

La lettre d’Amodei a été publiée quelques heures après qu’Alex Karp, PDG de Palantir, dont l’entreprise a signé la lettre soutenant l’utilisation des modèles d’IA open-weight, a déclaré dans une interview exclusive sur « The Claman Countdown » de FOX Business Network que la résistance à la concurrence pourrait rendre l’industrie technologique moins dynamique, à l’image de l’Europe.

Karp a déclaré qu’il n’est « not anti-Anthropic » ni opposé à tous les modèles fermés, mais a ajouté : « If you want to win, you have to compete on the battlefield. »

« Our job has to be to have the best AI in the world, if you're going to actually say we're going to restrict all the products to U.S. commercial, but they're not going to be restricted abroad, which they're not, you're de facto setting up a two-stage thing where no one can claim we have the best products in the world. It's complete insanity, » a déclaré Karp.

« We are building our platform in the U.S. government on the open-weight side with Nvidia. We can get the best performance in the world with a totally American company, using American open-weight companies and American GPUs. We don't have to hide behind some kind of fake thing, » a-t-il ajouté.