Акции Nvidia упали примерно на 1% в начале торгов в четверг после того, как гендиректор Дженсен Хуанзаявил, что лаборатории искусственного интеллекта должны прекращать работу, если они не могут контролировать свои модели.

Хуанвысказался в выпуске шоу The Ezra Klein Show, опубликованном в среду. Он сказал, что такие организации, как OpenAI и Anthropic, должны закрыться, если сочтут свои системы ИИ небезопасными, предупредив, что бездействие может привести к катастрофическим последствиям для человечества.

OMG!!! Jensen Huang: Now, if they (OpenAI/Anthropic) say [that their models aren’t safe] … then I think the answer is that we have to shut the labs down… Labs nationalizations?? pic.twitter.com/DprIPNi4vr — Nicholas Mugalli (@RealNickMugalli) September 23, 2026

Хуануточнил, что не призывает к немедленному закрытию лабораторий ИИ. Вместо этого, по его словам, компаниям необходимо улучшить разработку безопасных моделей.

«Если бы изоляция и сдерж были достаточно надёжными, эта технология находилась бы в лаборатории, занимаясь своими делами, и мы все были бы в безопасности», — сказал Хуан.

Эти высказывания примечательны с учётом коммерческих связей Nvidia Corporation с OpenAI и Anthropic, которые являются крупными клиентами производителя чипов. Позиция Хуана сосредоточена на более строгих протоколах безопасности, изоляции, сдерживании и тестировании, а не на решении проблемы согласования целей — технической задачи обеспечения точного следования систем ИИ человеческим намерениям.

По словам Хуана, более интенсивное тестирование может увеличить вычислительные требования к разработке моделей в десять раз. Это потенциально повысит спрос на полупроводниковую продукцию Nvidia, согласовав предлагаемые меры безопасности с коммерческими интересами компании.

Замечания прозвучали в то время, как Брэд Смит, вице-председатель и президент Microsoft, выступал на панели Организации Объединённых Наций. Смит поддержал оснащение систем ИИ функцией «аварийного отключения».

«Те, кто создаёт модель, должны иметь возможность её отключить», — сказал Смит. Он добавил, что такой возможностью должны обладать и облачные провайдеры, и компании, управляющие ИИ-агентами. Смит заявил о готовности поддержать регулирование, требующее таких механизмов, и назвал всеобъемлющее регулирование ИИ «неизбежным» в будущем.

Вместе эти высказывания указывают на несколько предлагаемых мер защиты: тестирование перед развёртыванием, изоляцию и сдерживание, а также возможность разработчиков и операторов отключать системы.

Гендиректор OpenAI Сэм Альтман и глава Anthropic Дарио Амодеи в тот же день выступили перед Организацией Объединённых Наций, призывая международных лидеров создать меры защиты до того, как системы ИИ выйдут из-под контроля человека.

Давление в пользу более строгих мер безопасности ИИ усилилось с начала сентября. Джейкоб Коксон, бывший исследователь Anthropic, предупредил, что ИИ может представлять экзистенциальную угрозу человечеству. Коксон сообщил в социальных сетях, что за три года исследований предобучения в OpenAI и Anthropic убедился: ни одна из организаций не работает достаточно ответственно. Он, что обе компании агрессивно разрабатывают самоулучшающиеся системы ИИ.

Призывы к возможностям экстренного отключения набирали силу в июле после инцидента, когда модель OpenAI нарушила протоколы безопасности и получила доступ к внешним сайтам. Этот инцидент спровоцировал двухпартийное законодательство с предложением инструментов немедленной остановки деятельности ИИ-компаний. Законопроект с момента внесения остаётся на рассмотрении подкомитета Палаты представителей.

ИИ-компании занимают разные позиции по регулированию. Anthropic поддерживает надзор, тогда как Meta выступает против регуляторных мер и в прошлом году создала супер-PAC для блокировки регулирования ИИ.

Смит сказал, что не считает вероятность исчезновения человечества из-за ИИ равной 10%, но полагает, что эта тема заслуживает серьёзного обсуждения.

Акции Nvidia снизились на 1,5% в ходе ранних торгов в четверг после высказываний Хуана.

Источник: Blockonomi