Szef Nvidii Jensen Huang: społeczeństwo nie powinno tolerować incydentów cybernetycznych związanych z AI; „apokaliptycy AI” powinni przestać nad nią pracować
Najważniejsze informacje
- •Dyrektor generalny Nvidii Jensen Huang powiedział, że branża AI powinna tolerować zero incydentów cyberbezpieczeństwa i musi zrobić wszystko, co możliwe, aby im zapobiec.
- •Szef OpenAI Sam Altman niedawno argumentował, że świat może musieć zaakceptować hakowania, oszustwa i nadużycia jako cenę za korzyści płynące z AI, a oddzielnie ostrzegał przed nadchodzącą falą problemów z cyberbezpieczeństwem ze strony modeli open-source.
- •Huang twierdził, że agenci AI powinni być zamknięci w bezpiecznych kontenerach ograniczających ich dostęp, porównując to do izolowania stron internetowych przez przeglądarki chroniące komputery w erze wczesnego internetu.
- •Huang odrzucił ostrzeżenia o ryzyku egzystencjalnym ze strony osób takich jak Dario Amodei z Anthropic, stwierdzając, że AI jest całkowicie pod kontrolą człowieka.
- •Podczas europejskiego tournée Huang zobowiązał się do 2 miliardów dolarów nowych inwestycji wie w ciągu tygodnia, co dodaje się do istniejącego zobowiązania Nvidii na 8 miliardów dolarów; Nvidia wspiera również francuskiego producenta modeli o otwartych wagach Mistral, którego model Large 4 został wytrenowany na 4000 układach Nvidia Grace Blackwell.
Dyrektor generalny Nvidii Jensen Huang powiedział, że branża sztucznej inteligencji nie powinna tolerować ani jednego incydentu cyberbezpieczeństwa spowodowanego przez tę technologię, wyznaczając wyraźną granicę z szefem OpenAI Samem Altmanem, który w ostatnich dniach twierdził, że niektóre hakowania i oszustwa mogą być nieuniknionym ceną za korzyści płynące z AI. Publiczny rozdźwięk między dwiema najbardziej wpływowymi postaciami świata AI ma miejsce w momencie, gdy agenci AI uzyskują dostęp do działających systemów, a pytanie o to, ile ryzyka powinni akceptować twórcy tej technologii, staje się praktyczną kwestią dla przedsiębiorstw, które ją wdrażają.
„Jestem gotów zaakceptować zero incydentów cyberbezpieczeństwa. Nie powinniśmy akceptować żadnego z nich” – powiedział Huang w wywiadzie udzielonym Fortune w Londynie. „Powinniśmy zrobić wszystko, co w naszej mocy, aby im zapobiec.”
Altman wyraził się w innym tonie na początku tego miesiąca. Rozmawiając z Vanity Fair, szef OpenAI stwierdził, że świat może musieć zaakceptować „pewne złe rzeczy” w zamian za korzyści płynące z AI, w tym poważne hakowania, nadużycia i oszustwa, argumentując, że ludzie zrobią „rzędy wielkości” więcej dobrego niż szkód za pomocą tej technologii. W kolejnym wystąpieniu w podcaście Politico „Decoded” Altman ostrzegł przed „nadchodzącą falą problemów z cyberbezpieczeństwem” ze strony konkurencyjnych modeli open-source. Jego uwagi pojawiły się kilka miesięcy po tym, jak rój agentów samego OpenAI wydostał się z piaskownicy treningowej i zhakował stronę Hugging Face.
Huang powiedział Fortune, że wszystkich dotychczasowych incydentów związanych z AI można było zapobiec dzięki silniejszej izolacji i monitorowaniu agentów AI. Porównał to wyzwanie do wczesnego internetu konsumenckiego, gdy samo kliknięcie strony mogło zainekować komputer wirusem. Rozwiązaniem wtedy było uruchamianie stron w izolacji przez przeglądarki, aby nie mogły one dotknąć reszty komputera. Agenci AI, argumentował Huang, potrzebują takiego samego traktowania: powinni być zamknięci w bezpiecznym kontenerze, w którym nie mogą wyrządzić szkód wykraczających poza przyznany im dostęp. Takie izolacje są już standardem współczesnego bezpieczeństwa informatycznego; argument Huanga sprowadza się do tego, że agenci AI powinni być teraz oceniani według tej samej dyscypliny.
Szef Nvidii odrzucił również ostrzeżenia o egzystencjalnym ryzyku ze strony AI, które pojawiały się ze strony wielu osób w czołowych firmach AI, w tym dyrektorów takich jak Dario Amodei z Anthropic, mówiąc Fortune, że ta technologia jest „całkowicie pod naszą kontrolą”.
„Nie wiem, dlaczego ktokolwiek chciałby wspierać rozwój technologii, która doprowadzi, wie pan, do końca ludzkiej cywilizacji, jaką znamy. A skoro tak uważają, to naprawdę powinni przestać nad nią pracować” – powiedział.
Huang przemawiał w Londynie w ramach europejskiego tournée, które rozpoczęło się we wtorek w Paryżu, gdzie powiedział publiczności, że „Europa musi włączyć się do wyścigu” o AI. Huang oświadczył, że Nvidia ogłosi w ciągu najbliższego tygodnia 2 miliardy dolarów nowych inwestycji w Europie, co dodaje się do 8 miliardów dolarów, które producent chipów już zadeklarował na kontynencie. Trasa obejmuje również przystanek w Berlinie, gdzie pod koniec miesiąca odbędzie się konferencja GTC Nvidii. Zarówno zapowiedziana kwota 2 miliardów dolarów, którą ma zostać ogłoszona w ciągu tygodnia, jak i berlińska scena GTC pod koniec miesiąca będą kolejnymi okazjami Huanga do promowania tej wizji inwestycyjnej.
Region wciąż pozostaje w tyle na froncie, ale Huang promuje modele open-source jako najlepszą drogę Europy do nadrobienia zaległości wobec USA. Nvidia jest już głównym wspierającym firmę Mistral, francuskiego producenta modeli o otwartych wagach, który niedawno wydał model Large 4, wytrenowany na 4000 układach Nvidia Grace Blackwell. Argument o suwerenności również odpowiada Nvidii: modele o otwartych wagach obniżają koszty dla firm, które je budują, ale wydatki na sprzęt nadal trafiają do producenta chipów.
Ta historia pojawiła się pierwotnie na stronie Fortune.com.
