Akcje Nvidia (NVDA) zamknęły się 14 października na poziomie 221,30 USD, spadając o 7,22 USD, czyli 3%, gdy akcje producentów chipów prowadziły spadki na rynku amerykańskim. W handlu przedgieździowym 15 października akcje były notowane w okolicach 217,86 USD, co oznacza kolejny spadek o około 2%.

Ruch ten nastąpił, gdy dyrektor generalny Nvidia Jensen Huang omawiał bezpieczeństwo AI oraz podejście firmy do dostarczania technologii deweloperom AI. W rozmowie z Emily Chang z Bloomberga w Londynie Huang został zapytany, czy Nvidia wstrzyma dostawy chipów dla nieodpowiedzialnego dewelopera AI.

„To hipotetyczna sytuacja, ale tak” – powiedział Huang. Dodał, że Nvidia najpierw porozmawiałaby z daną firmą. „Nie zarządzamy cudzymi firmami” – powiedział, zaznaczając, że zdolność Nvidii do takich ocen jest ograniczona, ponieważ jej technologia ma charakter ogólnego przeznaczenia.

Huang powtórzył tę odpowiedź podczas rozmowy, podkreślając, że scenariusz był hipotetyczny i że Nvidia najpierw skontaktaby się z deweloperem przed podjęciem działań.

Wymiana zdań uwypukla pytanie, które dotyczy całej branży AI: ile odpowiedzialności spada na dostawców sprzętu ogólnego przeznaczenia za ostateczne wykorzystanie ich chipów. Sam Huang zauważył ograniczenia takiej oceny.

Nvidia finansuje brytyjskie badania nad bezpieczeństwem AI

Nvidia przeznaczy 250 milionów dolarów przez pięć lat na badania nad bezpieczeństwem AI w Wielkiej Brytanii. Środki zapewnią badaczom dostęp do zaawansowanej mocy obliczeniowej i wesprą prace w instytucjach, w tym na Uniwersytecie Oksfordzkim i University College London.

Badania będą dotyczyć zabezpieczeń i metod kontroli agentów AI. Huang odbywa trasę po Europie przed wydarzeniem firmowym w Berlinie – kolejnym zaplanowanym przystankiem podróży, podczas której bezpieczeństwo AI pozostaje centralnym tematem jego publicznych wypowiedzi. Opisał obawy dotyczące bezpieczeństwa AI jako część bólu wzrostowego szybko rozwijającej się branży.

Huang powiedział, że wiele młodych firm AI „rośnie niewiarygodnie szybko” i dopiero rozwija odpowiedzialność wymaganą wraz z ich ekspansją. Dyrektor generalny Anthropic Dario Amodei zaproponował ogólnobranżowe spowolnienie w celu rozwiązania kwestii bezpieczeństwa, ale Huang powiedział, że wierzy, iż oprogramowanie AI może być kontrolowane i bezpiecznie używane – w odpowiedzi na apele z samej branży o bardziej ostrożne tempo.

Huang określił również część obaw jako „wymyślone przez nas samych” i stwierdził, że branża robi „okropną robotę” w wyjaśnianiu korzyści płynących z AI. Uznał, że sama AI może pomóc w rozwiązywaniu ryzyk i zaapelował o szybszy rozwój narzędzi monitorujących, mówiąc: „AI jest tym monitorem”.

Huang odrzuca obawy o bańkę AI

Huang odrzucił również obawy, że branża AI jest w bańce. Powiedział, że popyt na infrastrukturę AI przez kilka lat będzie przewyższał dostępną podaż komponentów.

Mówiąc na wydarzeniu w Londynie, Huang stwierdził, że podaż i popyt ostatecznie się zrównoważą, ale podkreślił, że nie nastąpiło to jeszcze. Akcje Nvidia były notowane w okolic 217,86 USD w handlu przedgieździowym 15 października, po spadku o 3% do 221,30 USD dzień wcześniej.

W Indiach przewodniczący Bharti Airtel Sunil Mittal wezwał rządy do wcześniejszego ustanowienia zasad dotyczących AI. Powiedział, że AI rozwija się szybciej, niż regulatorzy są w stanie się przygotować, i przywołał ostrzeżenia założycieli firm technologicznych, że ich agenci „mogą wymknąć się spod kontroli”.

Mittal zastanawiał się, czy rządy „obudzą się dopiero, gdy dojdzie do wypadku”. Jego wypowiedzi pokazały, że debata o bezpieczeństwie sięga już poza deweloperów AI i producentów chipów, obejmując liderów biznesu nakłaniających rządy do działania, zanim pojawią się problemy.