CEO Microsoftu Satya Nadella zaapelował o wyposażenie zaawansowanych systemów sztucznej inteligencji w odpowiednik pedału hamulca. W poście na X z 10 października 2026 r. Nadella zaproponował nową „architekturę zaufania” dla granicznych systemów AI — najbardziej zaawansowanych modeli na krawędzi obecnych możliwości — której centrum miał być „hamulec awaryjny” pozwalający upoważnionym osobom wstrzymać lub wyłączyć model AI w trakcie wykonywania zadania.

Co zaproponował Nadella

Hamulec awaryjny to główny element tej koncepcji. Upoważnieni użytkownicy mogliby zatrzymać model w trakcie działania, zamiast czekać, aż dokończy to, co zaczął.

Ta możliwość ma większe znaczenie, niż mogłoby się wydawać. Starsze chatboty odpowiadały na pytanie i kończyły. Nowsze systemy „agentowe” mogą samodzielnie wykonywać ciągi czynności, więc możliwość przerwania ich w połowie staje się realnym wymogiem bezpieczeństwa, a nie jedynie udogodnieniem.

Uderzającym elementem propozycji jest to, jak Nadella chce, aby firmy myślały o tych modelach. Twierdził, że zaawansowaną AI należy traktować tak, jakby była już skompromitowana, stosując podejście używane wobec zagrożeń wewnętrznych. To sformułowanie nawiązuje do bezpieczeństwa „zero trust” — doktryny bezpieczeństwa korporacyjnego, według której żaden użytkownik ani system nie powinien być domyślnie obdarzany zaufaniem.

Ramę uzupełniają dwa kolejne elementy. Pierwszym są niezmienialne, czytelne dla człowieka dzienniki rejestrujące, co systemy AI faktycznie robią, tak aby ślad papierowy nie mógł zostać po cichu zmodyfikowany i był zrozumiały bez specjalistycznej wiedzy. Drugim są niezależne audyty wdrożeń AI — to znaczy sprawdzenie pracy przez podmioty zewnętrzne, a nie ocenianie samych siebie przez firmy.

Rosnący chór

Nadella nie działa sam Prezydent Microsoftu Brad Smith publicznie poparł pomysł hamulca awaryjnego we wrześniu 2026 r., około miesiąc przed postem Nadelli. Apel zbiega się też z podobnymi ostrzeżeniami innych wybitnych postaci świata technologii, w tym Elona Muska i Sama Altmana z OpenAI.

Głos Microsoftu ma szczególną wagę w tej debacie. Firma jest jednym z największych inwestorów w rozwój granicznej AI — poprzez wielomiliardowe partnerstwo z OpenAI oraz asystentów AI wdrożonych w jej produktach.

Debata o bezpieczeństwie AI znacząco zaostrzyła się w 2026 r., a publiczne apele o ustandaryzowane zabezpieczenia stają się w branży coraz częstsze. Częściowo napędzały ją przyznania samych laboratoriów AI dotyczące trudności w kontrolowaniu złożonych systemów AI.

Konkretne obawy koncentrują się wokół tzw. systemów agentowych oraz tego, co niektórzy nazywają „Super Intelligence”. Przedstawiciele branży coraz częściej opisują to jako ryzyko utraty kontroli: obawą nie jest to, że AI udzieli złej odpowiedzi, lecz to, że będzie nadal robić coś, o co nikt jej nie prosił — i że nikt nie będzie w stanie tego zatrzymać.

Co to oznacza dla branży AI

Dla Microsoftu propozycja pełni podwójną rolę. Pozycjonuje firmę jako odpowiedzialnego opiekuna potężnej technologii, podczas gdy firma nadal tworzy i sprzedaje tę technologię na dużą skalę. Krytycy mogą zauważyć, że firma głęboko zaangażowana w wyścig AI, która wzywa do zasad bezpieczeństwa, to jednocześnie firma, która może sobie pozwolić na ich spełnienie. Mniejsi konkurenci mogą uznać niezmienialne rejestrowanie działań i niezależne audyty za kosztowniejsze do wdrożenia.

Propozycja pozostawia też otwarte pytania. Kto kwalifikuje się jako „personel upoważniony” z dostępem do hamulca? A kto przeprowadza niezależne audyty i według jakich standardów? Odpowiedzi na te pytania — podobnie jak to, czy Microsoft włączy tę ramę do własnych produktów AI — będą konkretnymi wskaźnikami, na które warto patrzeć, gdy debata przechodzi od publicznych deklaracji do praktyki.