Założyciel Microsoftu Bill Gates ostrzegł, że sztuczna inteligencja stała się globalnym problemem bezpieczeństwa i wzywa do większego międzynarodowego nadzoru nad najbardziej niebezpiecznymi modelami AI.

Według informacji udostępnionych przez @coinbureau na X, Gates ma podobno zabiegać o spotkanie z przewodniczącym Chin Xi Jinpingiem jeszcze w tym roku, aby omówić międzynarodowe kontrole nad zaawansowanymi systemami AI. Jego proponowane podejście obejmuje ściślejsze monitorowanie tego, czy modele AI mogą tworzyć cząsteczki lub wspierać ataki biologiczne.

Gates argumentował również, że Chiny mogłyby odegrać rolę w ograniczaniu publikacji potencjalnie niebezpiecznych modeli AI, jeśli Stany Zjednoczone najpierw podejmą podobne działania. Komentarze te pojawiają się w momencie, gdy rządy i firmy technologiczne nadal analizują, w jaki sposób coraz bardziej zaawansowane systemy AI mogłyby być wykorzystywane poza tradycyjnymi zastosowaniami, a pytania o nadzór wykraczają już daleko poza bezpieczeństwo produktu i obejmują potencjalne kwestie bezpieczeństwa narodowego.

Gates zwraca uwagę na ryzyka związane z AI i zagrożeniami biologicznymi

Jedną z kluczowych obaw podkreślanych przez Gatesa jest możliwość, że zaawansowane systemy AI mogłyby ostatecznie przyczynić się do powstania zagrożeń biologicznych. Wezwał on państwa do monitorowania, czy modele AI są zdolne do tworzenia cząsteczek lub wykonywania działań związanych z atakami biologicznymi.

Obawa ta odzwierciedla szerszą debatę wokół dualnego zastosowania coraz bardziej zaawansowanej sztucznej inteligencji. Systemy opracowane do legalnych celów naukowych i technologicznych mogą również dostarczać informacji, które mogłyby zostać niewłaściwie wykorzystane.

Apel Gatesa o monitorowanie koncentruje się konkretnie na możliwościach, które mogłyby stworzyć istotne ryzyka bezpieczeństwa. Zamiast traktować nadzór nad AI wyłącznie jako kwestię polityki technologicznej, takie podejście zakładałoby, że rządy oceniają, czy zaawansowane modele mogą wykonywać zadania, które w przypadku niewłaściwego użycia mogłyby mieć poważne konsekwencje.

Międzynarodowa koordynacja mogłaby stać się szczególnie ważna, ponieważ rozwój AI postępuje równolegle w wielu krajach i firmach. Ograniczenia wprowadzone przez jeden rząd mogą mieć ograniczoną skuteczność, jeśli porównywalne systemy mogą zostać opracowane lub opublikowane gdzie indziej, dlatego dyskusja coraz częściej koncentruje się na wspólnych standardach, a nie na odrębnych krajowych przepisach.

Chiny mogą odegrać rolę w kontrolach AI

Doniesienia o próbie nawiązania kontaktu z Xi Jinpingiem odzwierciedlają międzynarodowy wymiar obaw Gatesa. Według informacji udostępnionych na X, Gates uważa, że Chiny mogłyby ograniczyć publikację niebezpiecznych modeli AI, jeśli Stany Zjednoczone jako pierwsze podejmą działania.

Takie podejście kładłoby większy nacisk na koordynację między głównymi państwami produkującymi AI. Stany Zjednoczone i Chiny należą do krajów odgrywających istotną rolę w rozwoju zaawansowanej sztucznej inteligencji, przez co ich polityka ma znaczenie dla dyskusji o potencjalnych zagrożeniach tej technologii.

Przypisywane Gatesowi stanowisko sugeruje, że międzynarodowe kontrole mogłyby być skuteczniejsze, gdyby główne potęgi technologiczne ustanowiły porównywalne zabezpieczenia dla rozwoju i wdrażania bardzo zaawansowanych systemów AI.

Propozycja ta podkreśla również trudność zarządzania szybko rozwijającymi się technologiami, które mogą przekraczać granice państwowe. Modele AI mogą być opracowywane w jednym kraju, dystrybuowane globalnie i potencjalnie wykorzystywane przez osoby lub organizacje w jurysdykcjach o różnych standardach regulacyjnych, co utrudnia egzekwowanie i dostosowanie przepisów wraz z rozwojem możliwości tych systemów.

Systemy AI wykazały zdolności ofensywne

Obawy dotyczące bezpieczeństwa AI zostały również wzmocnione przez najnowsze testy obejmujące systemy opracowane przez OpenAI, Anthropic i Meta.

Według informacji udostępnionych przez @coinbureau, testy te obejmowały systemy AI, które skutecznie włamały się na rzeczywiste strony internetowe. Gates określił te incydenty jako wydarzenia, które powinny "blow people's minds".

Opisane demonstracje są istotne, ponieważ pokazują systemy AI wykonujące zadania wykraczające poza generowanie tekstu lub odpowiadanie na pytania. Zdolność systemu AI do interakcji z rzeczywistymi środowiskami cyfrowymi może tworzyć dodatkowe kwestie bezpieczeństwa, zwłaszcza gdy systemy otrzymują większą autonomię.

Incydenty te pokazują również, dlaczego dyskusje o bezpieczeństwie AI coraz częściej obejmują cyberbezpieczeństwo obok zagrożeń biologicznych i innych potencjalnych ryzyk. W miarę jak modele stają się coraz bardziej zdolne do wykonywania wieloetapowych zadań, badacze i decydenci muszą odpowiadać na pytanie, jak duży dostęp takie systemy powinny mieć do zewnętrznych narzędzi i infrastruktury cyfrowej.

Wezwania do większego międzynarodowego nadzoru

Przypisywane Gatesowi komentarze dołączają do trwającej debaty o tym, jak rządy powinny reagować na szybko rozwijające się możliwości AI. Jego skupienie na zagrożeniach biologicznych, cyberbezpieczeństwie i potencjalnie niebezpiecznych publikacjach modeli wskazuje na szersze ramy oceny bezpieczeństwa AI.

Problem wykracza poza pojedyncze firmy technologiczne, ponieważ zaawansowane modele są rozwijane przez wiele organizacji w różnych krajach. Uzgodnione standardy mogłyby więc stać się ważnym elementem działań na rzecz ograniczania ryzyk związanych z coraz bardziej zaawansowanymi systemami.

Jednocześnie wszelkie międzynarodowe kontrole musiałyby uwzględnić różnice w polityce krajowej, priorytetach technologicznych i podejściu do regulacji. Przedstawiona propozycja obejmująca Stany Zjednoczone i Chiny odzwierciedla trudność ustanowienia wspólnych zabezpieczeń między głównymi potęgami AI.

Na ten moment ostrzeżenie Gatesa koncentruje się na monitorowaniu możliwości zaawansowanych systemów AI oraz zapobieganiu publikacji lub niewłaściwemu wykorzystaniu modeli, które mogłyby stanowić poważne ryzyko bezpieczeństwa. Jego planowane spotkanie z Xi Jinpingiem jeszcze w tym roku jeszcze mocniej podkreślałoby międzynarodowy charakter tej kwestii.

W miarę dalszego rozwoju systemów AI pytania dotyczące bezpieczeństwa biologicznego, cyberbezpieczeństwa i międzynarodowych kontroli prawdopodobnie pozostaną centralnym elementem dyskusji o rozwoju i wdrażaniu tej technologii.

Autor: Victoria Hale, dziennikarka zajmująca się technologią i blockchainem. Victoria Hale pisze o technologii blockchain, infrastrukturze cyfrowej oraz przecięciu nowych technologii z finansami. Jej artykuły analizują, w jaki sposób nowe protokoły i systemy kształtują ewoluującą gospodarkę cyfrową. Priorytetem są dla niej przejrzystość i dokładność przy wyjaśnianiu zagadnień technicznych szerszej publiczności.

Zobacz inne wiadomości i artykuły w Google News

Zastrzeżenie :

Artykuły na HOKA.NEWS służą temu, by informować Cię o najnowszych trendach w krypto, technologii i nie tylko — ale nie stanowią porady finansowej. Dzielimy się informacjami, trendami i spostrzeżeniami, a nie zaleceniami kupna, sprzedaży ani inwestowania. Zawsze wykonaj własny research przed podjęciem jakichkolwiek decyzji finansowych. HOKA.NEWS nie ponosi odpowiedzialności za jakiekolwiek straty, zyski ani chaos, które mogą wyniknąć z działań podjętych na podstawie tego, co tu przeczytasz. Decyzje inwestycyjne powinny wynikać z własnych analiz — a najlepiej także z porad wykwalifikowanego doradcy finansowego. Pamiętaj: krypto i technologia zmieniają się bardzo szybko, informacje potrafią się zmienić w mgnieniu oka, a choć dbamy o dokładność, nie możemy zagwarantować, że wszystko jest w 100% kompletne lub aktualne.

Artykuły na HOKA.NEWS służą temu, by informować Cię o najnowszych trendach w krypto, technologii i nie tylko — ale nie stanowią porady finansowej. Dzielimy się informacjami, trendami i spostrzeżeniami, a nie zaleceniami kupna, sprzedaży ani inwestowania. Zawsze wykonaj własny research przed podjęciem jakichkolwiek decyzji finansowych.

HOKA.NEWS nie ponosi odpowiedzialności za jakiekolwiek straty, zyski ani chaos, które mogą wyniknąć z działań podjętych na podstawie tego, co tu przeczytasz. Decyzje inwestycyjne powinny wynikać z własnych analiz — a najlepiej także z porad wykwalifikowanego doradcy finansowego. Pamiętaj: krypto i technologia zmieniają się bardzo szybko, informacje potrafią się zmienić w mgnieniu oka, a choć dbamy o dokładność, nie możemy zagwarantować, że wszystko jest w 100% kompletne lub aktualne.

Bądź ciekawy, zachowaj ostrożność i ciesz się podróżą! hoka.news