NieuwsMacroAI-gegenereerde bewijzen van Google DeepMind vangen twee opnieuw ingebrachte bugs in de code van Signal

AI-gegenereerde bewijzen van Google DeepMind vangen twee opnieuw ingebrachte bugs in de code van Signal

Auteur: Blockonomi·

Belangrijkste punten

  • •De bewijzen detecteerden beide bekende libsignal-bugs nadat onderzoekers ze opzettelijk opnieuw hadden ingevoerd.
  • •AI-agenten genereerden ongeveer 6,5 miljoen regels machinegeverifieerde bewijscode voor de verificatie-inspanning.
  • •Het geverifieerde doel was beperkt tot een AArch64 Linux-programma met gespecificeerde versies van libsignal en SPQR.
  • •De analyse verifieerde niet direct sleutelgeneratie, groepsberichten, Signal-mobiele apps, multi-device status of quantum-bestendigheid.
  • •Een GitHub-update verifieerde tien extra routines en verminderde de afhankelijkheid van gemodelleerde contracten van 37 naar 27 hooks.
AI-gegenereerde bewijzen van Google DeepMind vangen twee opnieuw ingebrachte bugs in de code van Signal

Onderzoekers van Google DeepMind hebben hun door AI geschreven security-bewijzen op de proef gesteld door twee eerder opgeloste bugs opnieuw in de versleutelingsbibliotheek van Signal te plaatsen — en de machinegeverifieerde bewijzen markeerden beide gemanipuleerde builds als schendingen van de verwachte security-regels.

De test vormt één onderdeel van een grotere verificatie-inspanning waarbij AI-agenten ongeveer 6,5 miljoen regels machinegeverifieerde bewijscode produceerden, gekoppeld aan een gecompileerde build van libsignal, de bibliotheek ten grondslag liggend aan het Signal-protocol. De bevindingen werden op 10 november gepubliceerd in het AlphaProof Code report, en de onderzoekers hebben hun bewijsmateriaal ook online geplaatst zodat anderen het onafhankelijk kunnen controleren. Omdat de bewijzen machinegeverifieerd zijn, kunnen ze opnieuw worden afgespeeld en geïnspecteerd in plaats van op vertrouwen te worden geaccepteerd.

Het project werd vier weken lang geleid door vijf mensen. De mensen stuurden het werk aan, kozen de referentiemodellen en beoordeelden de specificaties — documenten die precies aangeven wat de AI-agenten moesten bewijzen — terwijl de stapsgewijze validatie van de resulterende bewijzen aan de machineverificatie werd overgelaten.

Hoe de bugtest werkte

De twee bugs waren al eerder opgelost in libsignal. Het team voegde ze opnieuw toe en voerde de gewijzigde build uit tegen het symbolische security-theorema. Beide gewijzigde versies voldeden niet aan het theorema, wat aantoont dat de specificaties bekende defecten kunnen afwijzen in plaats van willekeurige code goed te keuren.

De bewijzen dekken één specifiek doel af: een AArch64 (64-bit ARM) Linux-programma dat libsignal-protocol v0.105.4 en SPQR v1.6.0 gebruikt, uitgevoerd binnen een klein commandline-tool. Met andere woorden, het geverifieerde doel is een nauw afgebakende configuratie en niet Signals volledige implementatie. De theorema's omvatten drie handelingen — het starten van een sessie, het versturen van een bericht en het ontvangen ervan — en koppelen het programma aan de security-eigenschappen van PQXDH (Post-Quantum Extended Diffie-Hellman) en Triple Ratchet één-op-één-communicatie.

Die eigenschappen omvatten forward secrecy, authenticatie en post-compromise security. In gewone taal: blijven oude berichten geheim nadat sleutels zijn gestolen, zijn afzenders echt wie ze zeggen te zijn, en kan een sessie na een inbreuk terugkeren naar een veilige staat.

Het werk is gebaseerd op twee bewijsmodellen. Het symbolische model gaat uit van geïdealiseerde cryptografie, terwijl het computationele model beperkt hoe succesvol klassieke aanvallers kunnen zijn onder gestelde aannames.

Google AI agents audit Signal's code and one major flaw stays hidden — CryptoSlate (@CryptoSlate) November 17, 2026

Wat de bewijzen niet dekken

Verschillende gebieden vallen buiten het geverifieerde bereik. Sleutelgeneratie, groepsberichten en de Signal-mobiele apps zijn niet direct bewezen. Het computationele bewijs houdt geen rekening met quantum-aanvallers en laat multi-device status buiten beschouwing. De garanties verliezen bovendien hun nut zodra werklasten groot genoeg worden.

Het symbolische bewijs toont wel aan dat de geheimhouding van de handshake standhoudt bij bepaalde latere breuken van Diffie-Hellman. Desondanks zijn de resultaten afhankelijk van vertrouwen in de verificatiekernel van Lean, de proof assistant waarin de bewijzen zijn geschreven, evenals de beoordeelde specificaties, het AArch64 Linux-model en contracten voor geselecteerde routines. Die contracten — bekend als hooks — vervangen het uitvoeren van bepaalde routines door aangenomen beschrijvingen van hun gedrag. Minder hooks betekent dat minder van het eindresultaat op aannames rust.

De coderepository van het project bevat openbare stappen om het gepinde programma opnieuw te bouwen en de bewijzen te controleren. Een Linux-only comparator bevestigt dat de theorema's overeenkomen met de vertrouwde beweringen en speelt vervolgens de bewijzen opnieuw af in een verse Lean-kernel.

Een update van 11 november, samengevoegd op GitHub, verifieerde tien extra bibliotheekroutines, waardoor het aantal vertrouwde hooks daalde van 37 naar 27. De update behield libsignal v0.105.4 maar wijzigde het gepinde programma: de nieuwere build controleert de daadwerkelijke machinecode voor die tien routines in plaats van te vertrouwen op gemodelleerde contracten.

Bron: Blockonomi