Генеральный директор Anthropic Дарио Амодеи отверг утверждения о том, что его ИИ-стартап поддерживает запрет на open-weight модели для защиты своих конкурентных позиций, после того как Anthropic заметно отсутствовала среди подписантов письма, поддержанного многими ведущими ИИ-компаниями.

Ведущие компании в сфере ИИ, включая Nvidia, Palantir и другие, приняли участие в письме и объявили о партнерстве в Open Secure AI Alliance, которая стремится разрабатывать и распространять более открытые технологии для повышения безопасности в эпоху ИИ, поскольку риски могут исходить как от открытых, так и от закрытых моделей. Этот обмен подчеркивает активную дискуссию в ИИ-отрасли о том, насколько открытость лучше всего поддерживает безопасность, доступ и конкуренцию по мере развития возможностей моделей.

Амодеи написал в публикации на сайте Anthropic: "Anyone who has read my past writing should know that I don't regard such bans as a useful measure, but let me state it clearly so that there is no doubt: Anthropic has never advocated for a ban on open-weight models."

"But I don't agree with the letter's assertions that open-weights models necessarily make it easier to develop safeguards or that broad access to capabilities necessarily helps defenders more than attackers. It seems at least as likely to me that the opposite will be true," he wrote, adding that biological weapons may have an edge over the defenses against them.

Амодеи заявил, что рассматривает open-weight модели, не обладающие опасными возможностями, как общественное благо, поскольку их стоимость ограничивается компьютером, необходимым для их работы, и они могут быть полезны бизнесу, разработчикам и исследователям.

Он также добавил, что согласен со многими положениями открытого письма, особенно с тем, что open-weights важны для расширения доступа к экономике ИИ, усиления конкуренции и предоставления клиентам большего контроля.

"To summarize my and Anthropic's position, we have not and are not advocating for a ban on open-weights models as a category. We should instead focus on keeping powerful chips out of authoritarian hands, stopping industrial-scale distillation, and requiring safety testing of all sufficiently capable models, open and closed," Amodei wrote.

Письмо Амодеи было опубликовано спустя несколько часов после того, как генеральный директор Palantir Алекс Карп, чья компания подписала письмо в поддержку использования open-weight ИИ-моделей, заявил в эксклюзивном интервью на FOX Business Network в программе "The Claman Countdown", что сопротивление конкуренции может привести к менее динамичной технологической отрасли, как в Европе.

Карп сказал, что он "not anti-Anthropic" и не выступает против всех закрытых моделей, но добавил: "If you want to win, you have to compete on the battlefield."

"Our job has to be to have the best AI in the world, if you're going to actually say we're going to restrict all the products to U.S. commercial, but they're not going to be restricted abroad, which they're not, you're de facto setting up a two-stage thing where no one can claim we have the best products in the world. It's complete insanity," Karp said.

"We are building our platform in the U.S. government on the open-weight side with Nvidia. We can get the best performance in the world with a totally American company, using American open-weight companies and American GPUs. We don't have to hide behind some kind of fake thing," Karp said.