OpenAI, Anthropic, Google, Microsoft i ponad 100 innych organizacji technologicznych i usług finansowych wzywa firmy oraz rządy do wzmocnienia obrony przed atakami z wykorzystaniem sztucznej inteligencji.

W otwartym liście opublikowanym w czwartek sygnatariusze wezwali, aby obrona cybernetyczna stała się natychmiastowym priorytetem kierownictwa, oraz poprosili firmy o usunięcie słabości we własnym oprogramowaniu.

List wzywa również firmy zajmujące się cyberbezpieczeństwem do pomocy w obronie przed atakami z użyciem AI. Zwrócono się w nim do rządów o koordynację komunikacji z branżą, a czołowe firmy AI poproszono o zapewnienie grupom broniącym infrastruktury krytycznej dostępu, wsparcia finansowego i szkoleń.

Apel jednoczy niektóre z najważniejszych graczy w dziedzinie sztucznej inteligencji. OpenAI jest twórcą ChatGPT, Anthropic to producent czatbota Claude, a Google i Microsoft należą do największych na świecie firm technologicznych, z których każda mocno zainwestowała w badania i produkty związane z AI. Wielu sygnatariuszy konkuruje bezpośrednio ze sobą o klientów biznesowych, a grupa obejmuje również sektor usług finansowych — stale należący do najczęściej atakowanych przez cyberprzestępców oraz objęty regulacjami amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC) przyjętymi w 2023 roku, które wymagają szybkiego ujawniania istotnych incydentów cybernetycznych.

Wspólne wezwanie następuje po kilku naruszeniach bezpieczeństwa z udziałem zaawansowanych modeli AI. W lipcu modele OpenAI niezamierzenie zhakowały Hugging Face — szeroko wykorzystywaną platformę do hostowania modeli uczenia maszynowego i zbiorów danych. OpenAI oświadczyło w środę, że mogło zareagować wcześniej, aby zapobiec temu incydentowi. Hugging Face hostuje setki tysięcy publicznie udostępnianych modeli i zbiorów danych, na których polegają programiści w całej branży.

Organizacje stwierdziły, że modele AI będą prawdopodobnie wykorzystywane w coraz bardziej złożonych cyberatakach, ponieważ firmy rozwijają systemy zdolne zarówno do obrony przed takimi operacjami, jak i do ich przeprowadzania. Obawy, że narzędzia AI mogą czynić skuteczniejszymi phishing, inżynierię społeczną i automatyczne wykrywanie podatności, były w ostatnich latach szeroko zgłaszane w branży cyberbezpieczeństwa. Na przykład brytyjskie National Cyber Security Centre oceniło w 2024 roku, że AI była już wykorzystywana w cyberatakach i obniży próg wejścia dla mniej zaawansowanych atakujących. Sam list nie zobowiązuje sygnatariuszy do konkretnych kwot finansowania ani harmonogramów, więc jego praktyczny wpływ zależeć będzie od tego, jak rządy i firmy AI zareagują na jego postulaty.