AktualnościMakroDowody generowane przez AI od Google DeepMind wykryły dwa ponownie wprowadzone błędy w bibliotece szyfrującej Signal

Dowody generowane przez AI od Google DeepMind wykryły dwa ponownie wprowadzone błędy w bibliotece szyfrującej Signal

Autor: Blockonomi·

Najważniejsze informacje

  • •Dowody wykryły oba znane błędy libsignal po tym, jak badacze celowo ponownie je wprowadzili.
  • •Agenci AI wygenerowali około 6,5 miliona linii weryfikowanego maszynowo kodu dowodów w ramach przedsięwzięcia weryfikacyjnego.
  • •Zweryfikowany cel ograniczał się do programu AArch64 Linux korzystającego z określonych wersji libsignal i SPQR.
  • •Analiza nie zweryfikowała bezpośrednio generowania kluczy, komunikacji grupowej, aplikacji mobilnych Signal, stanu wielu urządzeń ani odporności kwantowej.
  • •Aktualizacja na GitHubie zweryfikowała dziesięć kolejnych procedur i zmniejszyła zależność od modelowanych kontraktów z 37 hooków do 27.
Dowody generowane przez AI od Google DeepMind wykryły dwa ponownie wprowadzone błędy w bibliotece szyfrującej Signal

Badacze z Google DeepMind poddali swój testowi dowody bezpieczeństwa napisane przez AI, wprowadzając ponownie do biblioteki szyfrującej Signal dwa wcześniej naprawione błędy — a weryfikowane maszynowo dowody oznaczyły oba zmanipulowane buildy jako naruszenia oczekiwanych reguł bezpieczeństwa.

Test stanowi część większego przedsięwzięcia weryfikacyjnego, w ramach którego agenci AI wygenerowali około 6,5 miliona linii weryfikowanych maszynowo kodu dowodów powiązanych ze skompilowaną wersją libsignal — biblioteki stojącej za protokołem Signal. Wyniki opublikowano 10 listopada w raporcie AlphaProof Code, a badacze udostępnili również swoje materiały dowodowe online, aby inni mogli je niezależnie sprawdzić. Ponieważ dowody są weryfikowane maszynowo, można je odtworzyć i zbadać, zamiast przyjmować je na wiarę.

Projektem kierowało pięć osób przez cztery tygodnie. Ludzie nadzorowali prace, wybierali modele referencyjne i przeglądali specyfikacje — dokumenty określające dokładnie, co agenci AI mieli udowodnić — podczas gdy krok po kroku walidacja powstałych dowodów została pozostawiona mechanizmowi weryfikującemu.

Jak przebiegał test z błędami

Oba błędy zostały wcześniej naprawione w libsignal. Zespół ponownie je wprowadził i uruchomił zmodyfikowany build względem jego symbolicznego twierdzenia bezpieczeństwa. Obie zmienione wersje nie spełniły tego twierdzenia, co pokazuje, że specyfikacje potrafią odrzucać znane wady, zamiast zatwierdzać każdy kod, jaki zostanie im przedstawiony.

Dowody obejmują jeden konkretny cel: program AArch64 (64-bitowy ARM) na Linuksie korzystający z libsignal-protocol v0.105.4 i SPQR v1.6.0, uruchamiany w małym narzędziu wiersza poleceń. Innymi słowy, zweryfikowany cel to wąsko określona konfiguracja, a nie pełne wdrożenie Signal. Twierdzenia obejmują trzy działania — rozpoczęcie sesji, wysłanie wiadomości i odebranie wiadomości — i wiążą program z właściwościami bezpieczeństwa PQXDH (Post-Quantum Extended Diffie-Hellman) oraz Triple Ratchet w komunikacji jeden do jednego.

Właściwości te obejmują poufność przyszłą (forward secrecy), uwierzytelnianie i odporność po kompromitacji. Mówiąc prosto, dotyczą one tego, czy stare wiadomości pozostają tajne po kradzieży kluczy, czy nadawcy są naprawdę tym, za kogo się podają, oraz czy sesja może powrócić do bezpiecznego stanu po naruszeniu.

Praca opiera się na dwóch modelach dowodowych. Model symboliczny zakłada idealizowaną kryptografię, natomiast model obliczeniowy ogranicza szanse powodzenia klasycznych atakujących przy określonych założeniach.

Google AI agents audit Signal's code and one major flaw stays hidden — CryptoSlate (@CryptoSlate) November 17, 2026

Czego dowody nie obejmują

Kilka obszarów wykracza poza zweryfikowany zakres. Generowanie kluczy, komunikacja grupowa i aplikacje mobilne Signal nie zostały bezpośrednio udowodnione. Dowód obliczeniowy nie uwzględnia atakujących kwantowych i pomija stan wielu urządzeń. Jego gwarancje przestają być też użyteczne, gdy obciążenie staje się wystarczająco duże.

Dowód symboliczny pokazuje natomiast, że poufność uzgadniania połączenia (handshake) zachodzi przy pewnych późniejszych złamaniach Diffiego-Hellmana. Mimo to wyniki zależą od zaufania do mechanizmu weryfikującego Lean — asystenta dowodowego, w którym zapisano dowody — a także od przejrzanych specyfikacji, modelu AArch64 Linux oraz kontraktów obejmujących wybrane procedury. Te kontrakty — zwane hookami — zastępują wykonywanie niektórych procedur założonymi opisami ich zachowania. Im mniej hooków, tym mniejsza część wyniku opiera się na założeniach.

Repozytorium kodu projektu zawiera publiczne instrukcje przebudowania przypiętego programu i sprawdzenia dowodów. Komparator działający wyłącznie na Linuksie potwierdza zgodność twierdzeń z zaufanymi stwierdzeniami, a następnie odtwarza dowody w świeżym jądrze weryfikującym Lean.

Aktualizacja z 11 listopada, scalona na GitHubie, zweryfikowała dziesięć dodatkowych procedur bibliotecznych, zmniejszając liczbę zaufanych hooków z 37 do 27. Aktualizacja zachowała libsignal v0.105.4, ale zmieniła przypięty program: nowszy build sprawdza rzeczywisty kod maszynowy tych dziesięciu procedur, zamiast polegać na modelowanych kontraktach.

Źródło: Blockonomi