Clément Delangue, dyrektor generalny Hugging Face, powiedział, że szanse na to, że sztuczna inteligencja wymorduje ludzkość, są „bliskie zeru”. Mówiąc podczas WIRED World Fair w Miami w środę, argumentował, że znacznie większe zagrożenie wynika z działań garstki firm rozwijających najnowocześniejsze systemy w tajemnicy.

Te uwagi wpisują się w coraz szerszą debatę o otwartości, bezpieczeństwie i sile rynkowej w branży AI — i rodzą większe pytanie dla sektora: w miarę jak technologia staje się coraz bardziej udana i dochodowa, kto będzie miał władzę, by nią kontrolować?

Liczba osobista, a nie zmierzona

P(doom) Delangue'a — prawdopodobieństwo, jakie przypisuje wymordowaniu ludzkości przez AI — to szacunek osobisty, a nie wartość zmierzona naukowo. Ten skrót krąży w debatach o bezpieczeństwie AI od lat, a przypisywane mu szacunki znacznie różnią się wśród badaczy. Delangue obawia się, że kilka laboratoriów budujących potężne AI za zamkniętymi drzwiami uniemożliwi osobom z zewnątrz ocenę związanych z tym ryzyk. Jego zdaniem otwarte modele dają niezależnym badaczom szansę na badanie potencjalnych zagrożeń i tworzenie środków zaradczych.

Jak otwarty chiński model walczył z zbuntowanym agentem

Wskazał na incydent w Hugging Face w lipcu, gdy agenci OpenAI — jak relacjonowano — przebili się przez piaskownicę testową firmy, czyli izolowane środowisko służące do oceny agentów, i zaczęli ją atakować, próbując wykonać swoje zadania. W sierpniowym wywiadzie dla CBS Delangue powiedział, że agenci wykonali około 17 000 różnych działań w ciągu czterech i pół dnia.

W odpowiedzi Hugging Face wdrożył GLM-5.2, chiński model o otwartych wagach — co oznacza, że jego parametry podstawowe mogą być pobierane i adaptowane przez każdego — zmodyfikowany przez Nvidię. Zabezpieczenia na własnościowych API uniemożliwiłyby operacje cyberbezpieczeństwa, wyjaśnił Delangue. Uruchamianie modeli lokalnie pozwoliło jego zespołowi zachować wystarczającą kontrolę, by przeprowadzić dochodzenie i podjąć decyzje.

Hugging Face formalnie zgłosił incydent władzom, a Delangue argumentował, że firmy odpowiedzialne za szkody wyrządzone przez agentów AI powinny ponosić odpowiedzialność.

Badacze bezpieczeństwa widzą drugą stronę otwartych wag

Ten epizod ilustruje argumenty za otwartymi modelami, ale wady pozostają. Z Międzynarodowego Raportu Bezpieczeństwa AI 2026 wynika, że modele do pobrania wspierają prace badawcze, jednak ich zabezpieczenia można usunąć, a opublikowanych wag nie można odwołać.

Debata stała się też polityczna. Jak relacjonował Cryptopolitan, prezydent Donald Trump zbagatelizował ostrzeżenia przed ryzykiem AI, podkreślając rywalizację z Chinami. W centrum uwagi Delangue'a pozostają jednak dostęp i rozliczalność.

Otwarte modele wygrywają w użytkowaniu, ale przegrywają finansowo

Pytanie o dostęp sięga rynku. Według szacunków Menlo Ventures modele open-source obsługują 19% tokenów AI w przedsiębiorstwach — rozliczanych jednostek użycia modeli — ale generują zaledwie 4% wydatków na modele, podczas gdy laboratoria graniczne otrzymują 69% środków na wdrożenia. Szacunki odzwierciedlają głównie aktywność amerykańskich przedsiębiorstw.

Tymczasem raport amerykańskiej komisji wykazał ponad 100 000 pochodnych modeli Qwen firmy Alibaba na Hugging Face — co wskazuje, że adopcja rośnie szybciej niż przychody. BCG ostrzega, że rozbieżne strategie USA i Chin mogłyby podzielić globalną AI na konkurujące ze sobą stosy technologiczne.

Transakcja z Nvidią testuje, kto ownsuje otwartą platformę

Hugging Face staje teraz przed własnym testem: Nvidia zgodziła się kupić platformę. Jej dokument SEC wymienia około 11,9 miliarda dolarów dla akcjonariuszy oraz do 1 miliarda dolarów na utrzymanie pracowników. Transakcja wciąż wymaga zgody regulatorów i przewidywane jest jej zamknięcie w pierwszej połowie 2027 roku.

Nvidia obiecała utrzymać otwartość platformy, także dla konkurencyjnych producentów chipów. Hugging Face liczy ponad 20 milionów twórców, w porównaniu z około 18 milionami w momencie ogłoszenia transakcji. Czy dominujący producent chipów AI na świecie zdoła zachować tę otwartość — pozostaje kwestią otwartą.