CEO Nvidii Jensen Huang wielokrotnie odrzucał ostrzeżenia, że sztuczna inteligencja stanowi egzystencjalne zagrożenie dla ludzkości, zdecydowanie broniąc rozwoju z pełną prędkością.

W wywiadzie dla CBS News dwa tygodnie temu Huang powiedział: „2030 nie będzie końcem świata. Jest 0% szans, że to będzie koniec świata”.

Zaatakował także innych liderów branży AI, w tym Sama Altmana z OpenAI i Dario Amodei z Anthropic, nazywając ich „nieodpowiedzialnymi” za „narracje o dniu sądu”, które promowali w ostatnich raportach.

„Uważam, że twierdzenia o końcu świata, szerzenie strachu w całej Ameryce — i robienie tego przez ludzi, którzy to robią — nie ma dla mnie żadnego sensu, więc muszą to robić z ukrytych pobudek” — powiedział Huang. „To jest nieodpowiedzialne i nie znam ich motywów”.

Podczas wydarzenia G20 we wrześniu Huang argumentował, że rządy powinny regulować „rzeczywiste i pragmatyczne szkody”, a nie „hipotetyczne, teoretyczne szkody”. Porównał rozwój AI do ewolucji samochodów, sugerując, że technologia może stawać się bezpieczniejsza wraz z postępem. W lipcu powiedział Axios, że idea AI kończącej ludzkość to „kompletny bezsens”, dodając, że twórcy polityk nie powinni pozwolić, by „science fiction” kształtowało politykę AI, i ostrzegając, że Stany Zjednoczone mogą samemu sobie zaszkodzić, zbyt bardzoawiając się tej technologii.

Napięcie między Huang a liderami OpenAI i Anthropic koncentruje się wokół jednego z najpoważniejszych pytań dotyczących AI: czy szybki postęp niesie ryzyko katastrofy i co oznacza odpowiedź dla sposobu zarządzania tą technologią.

Co oczywiste, utrzymanie AI na pełnej prędkości pomaga Nvidii sprzedawać więcej chipów, choć przesunięcie w stronę cyberbezpieczeństwa chroniącego przed zbuntowanymi agentami AI również napędzałoby popyt na nie.

Stanowcze stanowisko Huanga pokrywa się z poglądami prezydenta Donalda Trumpa, który zadzwonił do CEO w trakcie prezentacji, by powiedzieć, że katastrofizm dotyczący AI to „mistyfikacja”. „AI przejmująca świat, niszcząca ludzkość i wszystkie inne złe rzeczy to MISTYFIKACJA”, napisał Trump we wrześniu w poście na Truth Social.

To nie znaczy, że Huang uważa zabezpieczenia AI za niepotrzebne. Nazwał bezpieczeństwo AI „najważniejszym”, podkreślając jednocześnie, że rozwój może nadal postępować szybko. „Jeśli naruszamy bezpieczeństwo, to nie może się zdarzyć” — powiedział CBS News. „Powinniśmy iść tak szybko, jak możemy, ale nie szybciej, niż powinniśmy”.

W poniedziałek Nvidia wdrożyła to stanowisko w życie, wprowadzając nową platformę zaprojektowaną, by powstrzymać agentów AI przed wymykaniem się spod kontroli. Firma oświadczyła, że Open Agent Safety Platform została zbudowana, by zapewnić „full-stack” kontrolę nad agentami AI od testowania po wdrożenie, z możliwościami monitorowania mającymi na celu zapobieganie przekraczaniu przez agentów przyznanych im uprawnień.

Premiera nastąpiła w momencie, gdy firmy zajmujące się AI stają w obliczu rosnącej liczby incydentów. Zgłoszono liczne przypadki zbuntowanych agentów AI — w tym w OpenAI, Google i Anthropic. Nvidia oświadczyła, że jej nowy system bezpieczeństwa mógłby powstrzymać atak na Hugging Face przeprowadzony przez modele OpenAI.

„Z tego, co wiemy, ta nowa platforma bezpieczeństwa mogłaby powstrzymać to naruszenie, gdyby była używana w laboratoriach granicznych do wczesnejaluacji modeli” — powiedział Justin Boitano, wiceprezes i dyrektor generalny ds. computingu przedsiębiorczego w Nvidii, podczas briefingu medialnego.

Jak to działa

W obliczu napływu raportów o zbuntowanych agentach AI Nvidia rozwiązuje ten problem za pomocą Open Agent Safety Platform, która łączy dwie technologie: OpenShell oraz „Sentry”.

Według Nvidii OpenShell umieszcza agentów AI w izolowanych środowiskach ograniczających dostęp do plików, narzędzi, sieci, poświadczeń i innych zasobów — w zasadzie standaryzując ograniczenia, które pozwoliły zapobiec wcześniejszym próbom wyłamania się.

Sentry to zewnętrzna warstwa działająca na jednostkach przetwarzania danych Nvidii, która stale monitoruje aktywność agentów. Firma twierdzi, że jeśli agent próbuje wyjść poza granice swojego oprogramowania, Sentry może poddać go kwarantannie i zatrzymać go w ciągu milisekund.

„Nadzwyczajny potencjał AI dla społeczeństwa zostanie zrealizowany tylko wtedy, gdy rozwiążemy problem bezpieczeństwa AI” — powiedział Huang w komunikacie prasowym. „Ponieważ wciąż odkrywamy granice możliwości AI, musimy przyspieszyć odkrycia na pograniczu bezpieczeństwa AI. Bezpieczeństwo wymaga inżynierii full-stack”.

To, czy laboratoria graniczne przyjmą platformę do właśnie takiej ewaluacji modeli, jaką opisał Boitano, będzie wczesnym testem inżynierskiego podejścia Nvidii do bezpieczeństwa — oraz tego, czy formuła Huanga „tak szybko, jak możemy, ale nie szybciej, niż powinniśmy” się utrzyma.

Ta historia pierwotnie ukazała się na Fortune.com.