Vitalik Buterin sagt: KI-gestütztes Hacking bedeutet nicht das Ende der Cybersicherheit – er verweist auf formale Verifikation
Wichtige Erkenntnisse
- •Vitalik Buterin schlug die formale Verifikation – den mathematischen Nachweis, dass Software definierte Sicherheitsanforderungen erfüllt – als Reaktion auf KI-gestütztes Hacking vor, anstatt sich auf die Entdeckung von Schwachstellen zu verlassen.
- •In einem am 18. Mai veröffentlichten Blogbeitrag, den er auf X teilte, argumentierte er, dass KI die Verifikation ganzer Programme im großen Maßstab praktikabel machen könnte, mit Abdeckung von Datenbanken, Netzwerken und Caching-Schichten.
- •Er sagte, dass Sicherheit präzise definiert werden muss, bevor sie bewiesen werden kann, wobei Definitionen potenziell 1.000 Zeilen Code überschreiten können, um Probleme wie Nachrichtenfälschung, wiedergesendete Nachrichten und offengelegte Schlüssel abzudecken.
- •Formale Verifikation war historisch auf sicherheitskritische Bereiche wie Luftfahrt- und Medizinsoftware beschränkt, da der erforderliche Aufwand sie in der allgemeinen Entwicklung selten machte.
- •Buterin verknüpfte den Ansatz mit der Roadmap von Ethereum und benannte Nachrichtenprotokolle, Sandboxes, SNARKs und vollhomomorphechlüsselung als Bereiche, die im Zuge der Arbeit an Skalierbarkeit und Privatsphäre stärkere Garantien benötigen.
Ethereum-Mitgründer Vitalik Buterin sagt, dass der Aufstieg KI-gestützten Hackings die Cybersicherheit nicht zu einem aussichtslosen Wettstreit macht, und verweist stattdessen auf die formale Verifikation als Weg, die Sicherheit von Software nachzuweisen. Anstatt von der Entdeckung von Schwachstellen abzuhängen, könne man, so argumentiert er, mathematisch belegen, dass Programme definierte Sicherheitsanforderungen erfüllen.
In einem am 18. Mai veröffentlichten Blogbeitrag, den er auf X teilte, führte Buterin aus, dass KI eine solche Verifikation im großen Maßstab praktikabel machen könnte – ein Ansatz, der seiner Aussage nach vor allem für kritische Systeme relevant ist, darunter Kryptografie, Nachrichtenprotokolle und Blockchain-Software.
Sicherheit muss definiert werden, bevor sie bewiesen werden kann
Buterin sagte, dass der Beweis, dass ein Programm sicher ist, zunächst erfordert, zu definieren, was Sicherheit überhaupt bedeutet. Er führte die verschlüsselte Messaging-App Signal als Beispiel an und wies darauf hin, dass Verschlüsselung allein nicht jedes Sicherheitsanliegen abdeckt. Eine vollständige Definition muss möglicherweise Nachrichtenfälschung, Zustellfehler, wiedergesendete Nachrichten, kompromittierte Geräte und offengelegte Schlüssel berücksichtigen.
Hardware birgt weitere Komplikationen. Physische Signale können Informationen preisgeben, während Details wie Nachrichtengröße, Absenderidentität und Timing für sich genommen aufschlussreich sein können. Zusammen können diese Faktoren Sicherheitsdefinitionen auf mehr als 1.000 Zeilen Code anschwellen lassen. Dennoch argumentierte Buterin, dass Definitionen ein kleineres Prüfziel darstellen als die zugrunde liegende Implementierung.
Formale Verifikation zielt auf das gesamte Programm
Formale Verifikation ist keine neue Idee: Sie wird seit langem in sicherheitskritischen Bereichen wie Luftfahrt- und Medizinsoftware eingesetzt, wo die Kosten eines Versagens hoch sind, doch der damit verbundene Aufwand hat sie in der allgemeinen Softwareentwicklung selten gemacht. Traditionell haben Entwickler nur Abschnitte verifiziert, die sie selbst als sicherheitskritisch eingestuft hatten, vor allem, weil die Verifikation erheblichen Aufwand erford. Buterin argumentierte, dass KI diese Gleichung verändern und die Verifikation des gesamten Programms praktikabler machen könnte, mit Abdeckung von Datenbanken, Netzwerkschichten, Caching-Schichten und anderen Komponenten.
Er rahmte das Ziel als eigenständig gegenüber dem klassischen Modell ein, bei dem Verteidiger im Wettlauf mit Angreifern Schwachstellen aufdecken müssen. Nach seinem Ansatz wird Software widerstandsfähiger, indem nachgewiesen wird, dass sie die Sicherheitsanforderungen erfüllt. Definitionen lassen sich auch kombinieren, wenn verschiedene Gruppen getrennte Anforderungen festlegen, sagte er, und wo zwei Definitionen nicht koexistieren können, können Entwickler den zugrunde liegenden Designkonflikt isolieren. Er räumte jedoch ein, dass einige Benutzeroberflächen schwieriger zu handhaben bleiben.
Komplexe Verifikationsanforderungen für Ethereum-Software
Buterin benannte Nachrichtenprotokolle, Sandboxes, SNARKs – kompakte kryptografische Beweise dafür, dass eine Berechnung korrekt ausgeführt wurde – und vollhomomorphe Verschlüsselung, die Berechnungen direkt auf verschlüsselten Daten ermöglicht, als Bereiche, in denen der Unterschied zwischen Definitionen und Implementierungen relevant sein kann. Er verknüpfte den Ansatz direkt mit der Entwicklungsrichtung von Ethereum und sagte, dass Blockchains eine stärkere Softwaresicherheit benötigen, insbesondere in Systemen, die Skalierbarkeit und Privatsphäre verfolgen.
Der Kontext unterstreicht die Tragweite: Blockchain-Software ist quelloffen, und die Netzwerke, die sie unterstützt, verwalten Vermögenswerte direkt, sodass derselbe Code für Angreifer und Verteidiger gleichermaßen offen liegt – Bedingungen, unter denen Garantien, die nicht davon abhängen, wer eine Schwachstelle zuerst findet, ein besonderes Gewicht haben.
Sein Argument zentriert sich auf mathematische Verifikation statt allein auf die Entdeckung von Schwachstellen. Die Verifikation müsse, so sagte er, über ausgewählte Codeabschnitte hinausgehen: Die Definition erfordert sorgfältige Arbeit, während die Implementierung weiterhin einer formalen Prüfung unterzogen werden muss. KI könne aus seiner Sicht die Größenordnung dieses Prozesses bewältigen und dabei Datenbanken, Netzwerke, Caching und andere Komponenten abdecken. Die Frage, die es zu beobachten gilt, ist, ob KI-gestützte Werkzeuge die Verifikation ganzer Programme in die Routineproduktion auf Produktionsebene tragen können – einschließlich der Benutzeroberflächen, die er als die schwierigsten Fälle gekennzeichnet hat.
