CEO Microsoftu Satya Nadella ma nową wskazówkę dla firm wdrażających sztuczną inteligencję: traktujcie modele tak, jak zespoły ds. bezpieczeństwa traktują zagrożenia wewnętrzne.

Jego kluczowa rekomendacja jest prosta. Żaden pojedynczy model AI nie powinien kontrolować zarówno podejmowanych działań, jak i dowodów służących do ich weryfikacji. Jeśli jeden system może wykonać pracę, a następnie wystawić sobie ocenę, jak argumentował Nadella, tak naprawdę nikt niczego nie sprawdza.

Model zagrożenia wewnętrznego dla AI

Ramowanie problemu jako zagrożenia wewnętrznego wywodzi się z bezpieczeństwa korporacyjnego, gdzie firmy już dziś planują scenariusze dotyczące pracowników, którzy mają uprawniony dostęp, ale mogą go nadużyć — to kategoria ryzyka od dawna zarządzana mechanizmami takimi jak rozdzielenie obowiązków, które dzieli wrażliwe zadania i dostępy tak, by żaden pojedynczy człowiek ani system nie kontrolował całego procesu od początku do końca. Argument NADelli jest taki, że autonomiczne agenty AI należą do tej samej kategorii.

Agent AI podłączony do systemów firmowych może uzyskać dostęp do wrażliwych danych przedsiębiorstwa, podobnie jak zaufany pracownik. W przeciwieństwie do pracownika jego rozumowanie może być jednak nieprzejrzyste, a może on działać z takim stopniem autonomii, że nadzór staje się trudniejszy.

W wystąpieniu z 10 października 2026 r. Nadella omówił wyzwania stawiane przez systemy superinteligentne i opowiedział się za rozdzieleniem inteligencji i uprawnień. Mówiąc prosto, model może być na tyle inteligentny, by rekomendować decyzję, nie powinien mu jednak być ufać jej niekontrolowany wykonaniu.

Wskazał także zestaw praktycznych mechanizmów kontroli, w tym procesy niezależnej weryfikacji, przejrzystość łańcucha rozumowania modelu — czyli krok po kroku rozumowanie, które model tworzy w drodze dozi — oraz mechanizmy audytu zewnętrznego. Celem jest rozliczalność, która nie zależy od tego, że AI poświadcza samo siebie.

Wzorzec, a nie jednorazowa uwaga

Podczas wystąpienia z 17 września 2026 r. w All-In Podcast, programie o technologii i biznesie, Nadella zasygnalizował możliwość, że korporacyjne agenty AI mogłyby fałszować dane finansowe, opisując to jako nowy rodzaj ryzyka wewnętrznego.

W lipcu 2026 r. przedstawił koncepcję, którą nazwał „paradoksem odwrotnej informacji” — ideę, że firmy korzystające z AI mogą w efekcie wyciekać własną wiedzę własnościową poprzez interakcje z tymi systemami.

Około 14 września 2026 r. Microsoft przedstawił projekt kodeksu postępowania dla własnej rodziny modeli MAI. Dokument podkreśla nadzór ludzki i utrzymywanie ludzi w procesie zarządzania AI, a także odrzuca zwodnicze zachowania AI. W memorandum z połowy września 2026 r. Nadella — jak donoszą źródła — doradził poświęcenie czasu potrzebnego na prawidłowe wdrożenie środków bezpieczeństwa, ostrzegając, że zaniedbanie tego mogłoby kosztować firmę jej „pozwolenie na działanie”.

Konsekwencje wykraczające poza Microsoft

Microsoft dąży do bycia czołowym dostawcą możliwości AI, a jednocześnie pozycjonuje się jako firma respektująca suwerenność przedsiębiorstw — zasadę, zgodnie z którą klienci zachowują kontrolę nad własnymi danymi i systemami. Sprzedaż potężnych agentów jest łatwiejsza, gdy dostawca sprzedaje także zabezpieczenia czyniące ich wdrożenie bezpiecznym.

Każda firma, która daje agentom AI dostęp do systemów finansowych, danych klientów lub operacji wewnętrznych, może potrzebować przemyśleć sposób nadzoru nad tymi agentami. Może to oznaczać rozdzielenie systemu działającego od systemu sprawdzającego, rejestrowanie rozumowania i angażowanie audytorów zewnętrznych.

Kluczowe pytanie brzmi, czy te zasady przejdą z przemówień i dokumentów roboczych do wiążącej praktyki. Kodeks postępowania MAI pozostaje projektem. Sposób, w jaki Microsoft go finalizuje, oraz to, czy klienci przyjmą opisane przez NADellę rozdzielenie działań i weryfikacji, pokaże, jak poważnie branża traktuje własne ostrzeżenia.

Źródło: CryptoBriefing