Brytyjski minister ds. sztucznej inteligencji Kanishka Narayan ostrzegł w poniedziałek laboratoria pracujące nad najnowszymi modelami AI, że nie powinny one udostępniać systemów, których ryzyk nie potrafią odpowiednio kontrolować. Występując na Imperial College London, potwierdził również, że brytyjski AI Security Institute ocenia już niektóre z najnowszych modeli, w tym Gemini 4 Argon firmy Google.

„Słuchajcie, gdy wasi naukowcy ostrzegają przed poważnymi zagrożeniami. Badajcie nieoczekiwane zachowania. A jeśli nie potraficie odpowiednio kontrolować ryzyka, nie udostępniajcie systemu” – powiedział Narayan w wypowiedzi opublikowanej przez rząd Wielkiej Brytanii.

Powołał się na incydent w Australii na początku tego roku, w którym agent OpenAI badający publiczne wydatki na leki natrafił na ograniczenia dostępu na stronie rządowej, a następnie znalazł inną drogę wejścia, docierając do informacji, do których nie był uprawniony. Rząd Australii oświadczył, że nie ma wiadomości o uzyskaniu dostępu do jakichkolwiek osobistych dokumentacji medycznej. Ten przypadek ilustruje rodzaj nieoczekiwanych zachowań, które Narayan wezwał twórców do badania.

„Wygląda na to, że jest prawdopodobne, jeśli nie nieuniknione, że nasza własna obrona cybernetyczna zostanie przełamana” – powiedział Narayan.

Obrona cybernetyczna i programy pilotażowe dotyczące luk

Międzyresortowy program zwalczania cyberataków, w tym tych napędzanych przez AI, będzie kierowany przez ministra bezpieczeństwa Dana Jarvisa. Narayan powiedział, że dwa rządowe programy pilotażowe wykorzystały najnowszą AI do wykrycia i usunięcia ponad 1000 luk w usługach publicznych, a centralna usługa monitorowania skróciła czas łatania znanych słabych punktów z 50 do 8 dni, zmniejszając okres, w którym usługi publiczne pozostają narażone.

Ministrowie będą współpracować z Parlamentem nad ustawą o cyberbezpieczeństwie i odporności (Cyber Security and Resilience Bill), która obejmuje zgłaszanie poważnych incydentów AI i sytuacji bliskich awarii. Urzędnicy opracują również metody zarządzania incydentami związanymi z agentową – czyli systemami działającymi z pewnym stopniem autonomii – oraz wspierania osób nimi dotkniętych.

AI Security Institute ocenia Gemini 4 Argon

W ostatnich tygodniach Wielka Brytania współpracowała z rządem USA i laboratoriami, aby zapewnić instytutowi dostęp do najpotężniejszych modeli przed ich udostępnieniem, powiedział Narayan. „I mogę potwierdzić, że naukowcy zajmujący się AI w AI Security Institute prowadzą obecnie rygorystyczne oceny najnowszej generacji modeli, w tym Gemini 4 Argon, aby wcześnie identyfikować ryzyka, testować solidne zabezpieczenia i pomagać chronić ludzi” – powiedział.

Twórcy udostępniają modele instytutowi na podstawie dobrowolnych porozumień przed wdrożeniem. W zeszłym miesiącu Biały Dom podobno poprosił OpenAI i Anthropic o wstrzymanie się z udostępnianiem nowych modeli brytyjskim testerom do czasu amerykańskiej oceny. „The Telegraph” poinformował, że Narayan lobbował przeciwko temu ruchowi i że USA następnie zmieniły zdanie. Ministrowie nigdy nie potwierdzili, że instytut szerzej stracił dostęp.

„Kiedy polegasz na czyjejś technologii, musisz mieć jasność co do trwałości każdego rezultatu. Ale jestem bardzo pewien, że w wyniku prowadzonych przez nas rozmów będziemy mogli testować najnowszą generację modeli” – powiedział Narayan.

Cryptopolitan poinformował we wrześniu, że Anthropic wstrzymał swój model Claude Mythos 5.1 przed udostępnieniem instytutowi. Już w maju 2026 roku Biały Dom rozważał oceny przed udostępnieniem najpotężniejszych modeli.

Prezydencja w G20 i standardy techniczne

Narayan powiedział, że Wielka Brytania przejmie w przyszłym roku prezydencję w G20 – rotacyjną rolę kształtującą agendę tej grupy – i że AI będzie jednym z głównych tematów. Dodał, że rząd opublikuje w poniedziałek po południu pierwszy zarys standardów technicznych, przy czym AI Security Institute odegra w tym prominentną rolę. Publikacja standardów i przebieg ustawy przez Parlament to kolejne konkretne kroki, których warto się spodziewać.