Anthropic-CEO Dario Amodei wies den Vorwurf zurück, sein KI-Startup unterstütze ein Verbot von Open-Weight-Modellen, um die eigene Wettbewerbsposition zu schützen, nachdem Anthropic in einem von vielen führenden KI-Unternehmen unterzeichneten Brief auffällig gefehlt hatte.

Führende Unternehmen der KI-Branche, darunter Nvidia, Palantir und andere, beteiligten sich an dem Brief und kündigten eine Partnerschaft in der Open Secure AI Alliance an, die offenere Technologien entwickeln und teilen will, um die Sicherheit im KI-Zeitalter zu verbessern, da Risiken sowohl von offenen als auch von geschlossenen Modellen ausgehen können. Der Austausch unterstreicht eine aktive Debatte in der KI-Branche darüber, wie viel Offenheit Sicherheit, Zugang und Wettbewerb am besten unterstützt, während die Fähigkeiten der Modelle zunehmen.

Amodei schrieb in einem Beitrag auf der Website von Anthropic: "Anyone who has read my past writing should know that I don't regard such bans as a useful measure, but let me state it clearly so that there is no doubt: Anthropic has never advocated for a ban on open-weight models."

"But I don't agree with the letter's assertions that open-weights models necessarily make it easier to develop safeguards or that broad access to capabilities necessarily helps defenders more than attackers. It seems at least as likely to me that the opposite will be true," schrieb er und fügte hinzu, biologische Waffen könnten bei den Mitteln zu ihrer Abwehr im Vorteil sein.

Amodei sagte, er betrachte Open-Weight-Modelle ohne gefährliche Fähigkeiten als öffentliches Gut, da ihre Kosten auf den Computer beschränkt seien, der zu ihrem Betrieb benötigt werde, und sie für Unternehmen, Entwickler und Forscher Nutzen stifteten.

Er fügte hinzu, dass er mit weiten Teilen des offenen Briefes übereinstimme, insbesondere mit dem Wert von Open-Weights beim Ausbau des Zugangs zur KI-Wirtschaft, bei der Stärkung des Wettbewerbs und bei der Gewährung größerer Kontrolle für Kunden.

"To summarize my and Anthropic's position, we have not and are not advocating for a ban on open-weights models as a category. We should instead focus on keeping powerful chips out of authoritarian hands, stopping industrial-scale distillation, and requiring safety testing of all sufficiently capable models, open and closed," schrieb Amodei.

Der Brief von Amodei wurde Stunden veröffentlicht, nachdem Palantir-CEO Alex Karp, dessen Unternehmen den Brief zur Unterstützung von Open-Weight-KI-Modellen unterzeichnet hatte, in einem Exklusivinterview mit FOX Business Network's "The Claman Countdown" sagte, Widerstand gegen Wettbewerb könne die Tech-Branche weniger dynamisch machen, ähnlich wie in Europa.

Karp sagte, er sei "not anti-Anthropic" und auch nicht gegen alle geschlossenen Modelle, fügte aber hinzu: "If you want to win, you have to compete on the battlefield."

"Our job has to be to have the best AI in the world, if you're going to actually say we're going to restrict all the products to U.S. commercial, but they're not going to be restricted abroad, which they're not, you're de facto setting up a two-stage thing where no one can claim we have the best products in the world. It's complete insanity," sagte Karp.

"We are building our platform in the U.S. government on the open-weight side with Nvidia. We can get the best performance in the world with a totally American company, using American open-weight companies and American GPUs. We don't have to hide behind some kind of fake thing," sagte Karp.