NachrichtenMakroKI-generierte Beweise von Google DeepMind entdecken zwei erneut eingeschleuste Bugs in Signals Verschlüsselungsbibliothek

KI-generierte Beweise von Google DeepMind entdecken zwei erneut eingeschleuste Bugs in Signals Verschlüsselungsbibliothek

Autor: Blockonomi·

Wichtige Erkenntnisse

  • •Die Beweise erkannten beide bekannten libsignal-Bugs, nachdem Forscher sie absichtlich erneut eingeschleust hatten.
  • •KI-Agenten erstellten rund 6,5 Millionen Zeilen maschinell geprüften Beweiscode für das Verifikationsvorhaben.
  • •Das verifizierte Ziel war auf ein AArch64-Linux-Programm mit festgelegten libsignal- und SPQR-Versionen beschränkt.
  • •Die Analyse verifizierte weder Schlüsselgenerierung, Gruppen-Messaging, Signal-Smartphone-Apps, Multi-Device-Zustände noch Quantenresistenz direkt.
  • •Ein GitHub-Update verifizierte zehn weitere Routinen und reduzierte die Abhängigkeit von modellierten Verträgen von 37 auf 27 Hooks.
KI-generierte Beweise von Google DeepMind entdecken zwei erneut eingeschleuste Bugs in Signals Verschlüsselungsbibliothek

Google-DeepMind-Forscher haben ihre KI-generierten Sicherheitsbeweise auf die Probe gestellt, indem sie zwei zuvor behobene Bugs zurück in Signals Verschlüsselungsbibliothek einschleusten — und die maschinell geprüften Beweise markierten beide manipulierten Builds als Verstoß gegen die erwarteten Sicherheitsregeln.

Der Test ist Teil eines größeren Verifikationsvorhabens, bei dem KI-Agenten rund 6,5 Millionen Zeilen maschinell geprüften Beweiscode erstellten, die an einen kompilierten Build von libsignal gebunden sind — der Bibliothek hinter dem Signal-Protokoll. Die Ergebnisse wurden am 10. November im AlphaProof-Code-Bericht veröffentlicht, und die Forscher stellten ihre Nachweise zudem online, damit andere sie unabhängig überprüfen können. Da die Beweise maschinell geprüft sind, können sie wiederholt und inspiziert werden, statt auf Glauben akzeptiert zu werden.

Das Projekt wurde über vier Wochen von fünf Personen geleitet. Die Menschen steuerten die Arbeit, wählten die Referenzmodelle aus und überprüften die Spezifikationen — Dokumente, die genau festlegen, was die KI-Agenten zu beweisen hatten — während die schrittweise Validierung der entstehenden Beweise dem maschinellen Prüfer überlassen blieb.

Wie der Bug-Test funktionierte

Die beiden Bugs waren in libsignal bereits behoben worden. Das Team schleuste sie erneut ein und führte den veränderten Build gegen sein symbolisches Sicherheitstheorem aus. Beide veränderten Versionen erfüllten das Theorem nicht — ein Beleg dafür, dass die Spezifikationen bekannte Defekte zurückweisen können, statt jeden Code zu akzeptieren, der ihnen vorgelegt wird.

Die Beweise decken ein bestimmtes Ziel ab: ein AArch64-(64-Bit-ARM-)Linux-Programm mit libsignal-protocol v0.105.4 und SPQR v1.6.0, ausgeführt in einem kleinen Kommandozeilen-Tool. Mit anderen Worten: Das verifizierte Ziel ist eine eng festgelegte Konfiguration und nicht Signals vollständiger Einsatz. Die Theoreme umfassen drei Aktionen — das Starten einer Sitzung, das Senden und das Empfangen einer Nachricht — und verknüpfen das Programm mit den Sicherheitseigenschaften von PQXDH (Post-Quantum Extended Diffie-Hellman) und Triple Ratchet für Eins-zu-Eins-Messaging.

Zu diesen Eigenschaften gehören Forward Secrecy, Authentifizierung und Post-Compromise Security. Einfach ausgedrückt: Sie betreffen, ob alte Nachrichten nach dem Diebstahl von Schlüsseln geheim bleiben, ob Absender wirklich die sind, für die sie sich ausgeben, und ob eine Sitzung nach einer Kompromittierung wieder in einen sicheren Zustand zurückkehren kann.

Die Arbeit stützt sich auf zwei Beweismodelle. Das symbolische Modell geht von idealisierter Kryptographie aus, während das computergestützte Modell begrenzt, wie erfolgreich klassische Angreifer unter den genannten Annahmen sein können.

Google AI agents audit Signal's code and one major flaw stays hidden — CryptoSlate (@CryptoSlate) November 17, 2026

Was die Beweise nicht abdecken

Mehrere Bereiche liegen außerhalb des verifizierten Umfangs. Schlüsselgenerierung, Gruppen-Messaging und die Signal-Smartphone-Apps sind nicht direkt bewiesen. Der computergestützte Beweis berücksichtigt keine Quantenangrefer und lässt Multi-Device-Zustände außer Acht. Seine Garantien verlieren zudem an Bedeutung, sobald die Workloads ausreichend groß werden.

Der symbolische Beweis zeigt zwar, dass die Vertraulichkeit des Handshakes unter bestimmten späteren Brüchen des Diffie-Hellman-Verfahrens besteht. Dennoch hängen die Ergebnisse vom Vertrauen in den Prüfkernel von Lean — dem Beweisassistenten, in dem die Beweise verfasst sind — sowie von den überprüften Spezifikationen, dem AArch64-Linux-Modell und Verträgen für ausgewählte Routinen ab. Diese Verträge — sogenannte Hooks — ersetzen die Ausführung bestimmter Routinen durch angenommene Beschreibungen ihres Verhaltens. Weniger Hooks bedeuten, dass weniger vom Gesamtergebnis auf Annahmen beruht.

Das Code-Repository des Projekts enthält öffentliche Schritte, um das festgelegte Programm neu zu bauen und seine Beweise zu prüfen. Ein nur unter Linux lauffähiger Comparator bestätigt, dass die Theoreme mit den vertrauenswürdigen Aussagen übereinstimmen, und spielt die Beweise anschließend in einem frischen Lean-Kernel ab.

Ein am 11. November auf GitHub gemergtes Update verifizierte zehn weitere Bibliotheksroutinen und senkte die Zahl der vertrauenswürdigen Hooks von 37 auf 27. Das Update behielt libsignal v0.105.4 bei, änderte jedoch das festgelegte Programm: Der neuere Build prüft den tatsächlichen Maschinencode dieser zehn Routinen, statt sich auf modellierte Verträge zu verlassen.

Quelle: Blockonomi