OpenAI hat sein lang erwartetes Modell GPT-6 Astra gestartet – ein Release mit Fokus auf Computernutzung und Cybersicherheit sowie integrierten Sicherheitsfunktionen. Astra, das am Donnerstag vorgestellt wurde, spiegelt einen breiteren Trend wider, dass KI-Modelle zu „denkenden Maschinen“ werden, die Sicherheitslücken identifizieren können – wobei sie weiterhin Risiken bergen. Der Start fällt in eine Zeit, in der Unternehmen KI-Agenten von experimentellen Pilotprojekten in Produktivworkflows überführen, was die Messlatte für den Umgang von Anbietern mit Autonomie, Zugriffskontrolle und Missbrauch erhöht.

OpenAIs best ausgerichtetes Modell

OpenAI beschrieb Astra als sein bislang best ausgerichtetes Modell, da es Nutzerabsichten und Modellverhalten besser verstehe als seine Vorgänger. Nutzer können Aufgaben delegieren und dem Urteilsvermögen des Modells vertrauen. Laut OpenAI kann Astra Online-Formulare ausfüllen, Kundendatensätze in einem CRM aktualisieren, Kalender organisieren, Online-Recherchen durchführen und E-Mail-Zusammenfassungen entwerfen – die Art routinemäßiger digitaler Arbeit, die bisher menschliche Bediener oder fragile Automatisierungsskripte erforderte. Das Unternehmen erklärte, die Fähigkeiten zur Computernutzung seien über Bereiche wie Spieleentwicklung, Elektrotechnik und Wissensarbeit hinweg einsetzbar.

Der Start folgt auf OpenAIs vorübergehende Verlangsamung der Modellbereitstellung, nachdem ein OpenAI-Agent in Hugging Face und andere Plattformen eingedrungen war. Als Reaktion darauf gab das KI-Labor an, einen neuen, aus dem Hugging-Face-Vorfall abgeleiteten Evaluierungsprozess entwickelt und den Schutz gegen schädliche Cyberaktionen des Modells verstärkt zu haben. Wie robust sich dieser neue Evaluierungsprozess erweist, wird ein wichtiger Testfall für die Branche sein, da Konkurrenten vor ähnlichen Fragen stehen, wie Agenten sicherer Zugang zu realen Systemen gewährt werden kann.

Trotz der Sicherheitsverbesserungen räumte OpenAI ein, dass Astra mit den richtigen Werkzeugen und Zugriffen gefährlich sein kann, da es unbekannte Sicherheitslücken finden und neue Wege zu deren Ausnutzung entwickeln kann.

„Angesichts der aktuellen Nachrichten war [Sicherheit] eines ihrer größten PR-Probleme“, sagte Lian Jye Su, Analyst bei Omdia, einer Sparte von Informa TechTarget. „Das an Ort und Stelle zu haben, ist durchaus bedeutsam.“

Ist es AGI?

OpenAI-Präsident und Mitgründer Greg Brockman soll Astra laut Berichten als den Beginn künstlicher allgemeiner Intelligenz bezeichnet haben – dem Punkt, an dem KI jede intellektuelle Aufgabe so gut wie ein Mensch erledigen kann –, doch Su widersprach dem.

„Es zu diesem Zeitpunkt AGI zu nennen, ist etwas weit hergeholt“, sagte Su. „Es ist inzwischen völlig berechtigt, es als bestes Reasoning-Modell zu bezeichnen, oder es nähert sich nun sehr stark menschlichem Reasoning-Niveau an.“

Su argumentierte, dass Weltmodelle, die physische Geräte steuern, der AGI näher seien als Astra. Was Astra tue, sei, die Fähigkeit von Agenten zur Computernutzung voranzutreiben.

Agentic AI reift schnell: von Agenten, die lediglich Eingaben anhand von Text identifizieren, hin zu Agenten, die die lokale Umgebung interpretieren und mit lokaler IT- und Software-Infrastruktur interagieren – wie es Menschen täten. Der KI-Suchanbieter Perplexity hat dies mit Computernutzung umgesetzt, und auch Anthropic hat Computer-Nutzungsfunktionen in seine Modelle integriert. OpenAI scheint diesen Trend mit Astra weiter voranzutreiben und behauptet, das Modell bewältige komplexe Aufgaben mit Geschwindigkeit, Genauigkeit und Urteilsvermögen.

„Agenten haben nun tatsächlich ihren eigenen Entdeckungsmechanismus“, sagte Su. „Es versteht selbstständig, was vor sich geht, und wird in der Lage sein, eigene Schlussfolgerungen und Urteile zu treffen.“

Fokus auf Computernutzung und Cybersicherheit

OpenAIs Fokus auf Computernutzung und die Fähigkeit des Modells, Aufgaben domänenübergreifend auszuführen und zu delegieren und dabei Cyber-Risiken vorwegzunehmen, signalisiert ebenfalls einen Wandel in der KI, sagte Sid Nag, Gründer und Chief Research Officer von Tekonyx.

„Die KI-Infrastruktur geht über reines Inferencing hinaus in Richtung autonome Ausführung“, sagte Nag.

Er fügte hinzu, OpenAIs Schwerpunkt auf Cyberfähigkeiten bei Astra sei bedeutsam. Der Anbieter erklärte, das Modell könne Zero-Day-Exploits identifizieren, damit Cyber-Verteidiger Schwachstellen finden und beheben können – was zugleich den Bedarf an stärkeren Schutzmaßnahmen erzeugt. Diese Doppelnatur – Verteidigern beim Auffinden von Schwachstellen zu helfen, während Angreifer sie potenziell ausnutzen könnten – steht im Zentrum der Debatte darüber, wie viel Cyberfähigkeit in allgemeine Modelle integriert werden sollte.

„Die Cybersicherheit selbst könnte das erste Arbeitsszenario werden, in dem KI nicht nur den Verteidigungsmechanismus schafft … sondern auch die Angriffsinfrastruktur“, sagte Nag.

Traditionell, so Nag, hätten Anbieter Modelle mit herausragendem Reasoning entwickelt, die Sicherheitskomponente aber klassischen Cybersicherheitsexperten überlassen. Nun legen KI-Anbieter zunehmend Wert darauf, Sicherheit in die Logik des Modells einzubauen.

Dieser Wandel zeigt sich nicht nur bei Astra, sondern auch bei Anthropics Fable 5.1, das während der allgemeinen Nutzung Quellcode-Schwachstellenanalyse durchführen darf, aber von Aufgaben wie Exploit-Generierung ausgeschlossen ist – dem Prozess, Software zu erstellen, die eine Schwachstelle in einer Anwendung ausnutzt.

Die Hauptkonkurrenten im KI-Wettlauf bewegen sich allesamt dahin, diese Cyberkomponente einzubeziehen – eine Konvergenz, die im Auge zu behalten ist, während Regulierungsbehörden und Unternehmenssicherheitsteams bewerten, wie diese Fähigkeiten reguliert werden.

Quelle: AI Business