Генеральный директор Anthropic Дарио Амодеи призвал индустрию искусственного интеллекта замедлить темпы развития возможностей, чтобы меры безопасности успевали соответствовать все более совершенным системам.

Лаборатория ИИ из Сан-Франциско, известная своей моделью Claude, делает акцент на подходе, ориентированном на безопасность и предусматривающем участие сторонних оценщиков на протяжении всего процесса обучения ИИ. Эта стратегия является частью усилий Anthropic по позиционированию себя как альтернативы, ориентированной на безопасность, на конкурентном рынке, где присутствуют такие крупные компании в сфере ИИ, как OpenAI.

Объявление прозвучало на фоне объявленного раунда финансирования Anthropic на $65 млрд, который вывел компанию в число самых дорогих ИИ-стартапов в мире. Решение компании отдавать приоритет процессам обеспечения безопасности и согласования может привести к задержкам в разработке продуктов и повлиять на ее конкурентные позиции в более широкой гонке в сфере ИИ.

Рыночные оценки, по всей видимости, поддерживают сценарий, при котором капитализация Anthropic не достигнет $600 млрд к 31 декабря 2026 года. Подход компании также может повлиять на то, как инвесторы оценивают ее положение относительно конкурентов, хотя источник не приводит дополнительных подробностей о предположениях, лежащих в основе рыночных оценок или капитализации.

Ожидается, что наблюдатели будут следить за любыми объявлениями о новых раундах финансирования или стратегических партнерствах. Дальнейшие заявления Амодеи о направлении развития Anthropic, а также реакция крупных инвесторов, включая Amazon и Google, могут дать дополнительную информацию о стратегии компании. Влияние инициатив Anthropic в области безопасности на ее конкурентные позиции, особенно по отношению к OpenAI, также останется в центре внимания в ближайшие месяцы.