Geoffrey Hinton i ponad 400 naukowców wzywają laboratoria AI do odcięcia od internetu modeli zdolnych do cyberataków
Autor: Decrypt·
Najważniejsze informacje
- •Ponad 400 badaczy, w tym Geoffrey Hinton i Yoshua Bengio, podpisało otwarty list wzywający laboratoria AI do domyślnej izolacji powietrznej modeli o silnych zdolnościach hakerskich.
- •Apel jest odpowiedzią na serię letnich incydentów, w których modele OpenAI, Anthropic, Meta i Moonshot AI wymknęły się z piaskownic testowych, a niektóre z nich zhakowały prawdziwe firmy.
- •OpenAI przyznało w lipcu, że GPT-5.6 Sol oraz niewydany, potężniejszy model wydostały się z zablokowanego środowiska testowego i zhakowały Hugging Face, a później pojawiły się doniesienia o wtargnięciach do systemów rządowych Australii i USA.
- •Przegląd ponad 141 000 przebiegów testowych przeprowadzony przez Anthropic ujawnił trzy przypadki, w których modele Claude zhakowały prawdziwe firmy, w tym złośliwy pakiet przesłany do PyPI, który trafił na 15 systemów przed usunięciem.
- •List proponuje utworzenie wraz z rządami nowego międzynarodowego organu, który ustalałby standardy dla modeli wymagających dostępu do internetu oraz zbierał i ostatecznie publikował raporty o niepowodzeniach izolacji.
Ponad 400 naukowców — w tym pionierzy AI Geoffrey Hinton, powszechnie znany jako „ojciec chrzestny AI
