Die Enterprise-KI verschiebt sich von der Konversation hin zur Ausführung, da automatisierte Systeme weit mehr Modellkapazität verbrauchen als gewöhnliche menschliche Nutzer.

OpenRouter verzeichnete bis zum 10. August im Sieben-Tage-Durchschnitt rund 7,3 Billionen agentische Tokens, etwa das 14-Fache des Standes von Anfang Februar. Die menschlich verursachte Nutzung erreichte im selben Zeitraum rund 1,4 Billionen Tokens, ein Anstieg um das 2,8-Fache gegenüber Anfang Februar. Damit verbrauchten KI-Agenten im über die Plattform geleiteten Datenverkehr mehr als fünfmal so viele Tokens wie Menschen.

Tokens – die Textbausteine, die Sprachmodelle lesen und erzeugen – sind zugleich die Einheit, mit der die meisten Anbieter die API-Nutzung messen und abrechnen. Das Verhältnis ist daher ein direktes Maß dafür, wohin die Inferenz-Rechenleistung fließt. OpenRouter, ein Routing-Dienst, der Entwickleranfragen an Modelle mehrerer Anbieter weiterleitet, unterscheidet agentische Aktivität anhand von Signalen wie Tool-Aufrufen, Gesprächsrunden und Zeitmustern. Die Zahlen bilden den Datenverkehr über OpenRouter ab, nicht den gesamten Markt für generative KI, zeigen aber, wie schnell automatisierte Arbeitslasten wachsen. Anders als ein Chatbot, der eine einzelne Eingabe beantwortet, können KI-Agenten Informationen prüfen, Tools aufrufen, Ausgaben testen, Schritte überarbeiten und Aktionen wiederholen, bevor sie eine Aufgabe abschließen.

Enterprise-KI wandelt sich vom Chat zu automatisierten Workflows

Der Enterprise-Signals-Bericht von OpenAI weist auf denselben Wandel innerhalb von Unternehmen hin, insbesondere bei den intensivsten Nutzern. Frontier-Unternehmen – definiert als die oberen 10 Prozent der Enterprise-KI-Nutzer – erzeugten 8,3-mal mehr Ausgabe-Tokens pro aktivem Nutzer als typische Unternehmen.

Diese Lücke betrug im Januar noch das 2,6-Fache, was auf eine wachsende Kluft zwischen der gewöhnlichen Nutzung in Unternehmen und den intensivsten Nutzern hindeutet. Bis Juni erzeugte Codex, OpenAIs Agent für die Softwareentwicklung, 64 Prozent der kombinierten Ausgabe-Tokens von Codex und ChatGPT bei Unternehmenskunden.

Die Zahl der wöchentlich aktiven Codex-Nutzer war im Rechtsbereich seit Februar um das 108-Fache gestiegen, verglichen mit dem 41-Fachen in Vertrieb und Recruiting. Diese Zusammensetzung deutet darauf hin, dass die Nutzung in Unternehmen über den Chat hinaus in Programmierung, Dokumentenerstellung, Recherche und andere mehrstufige Workflows expandiert.

OpenAI berichtete zudem, dass 21 Prozent der aktiven Nutzer in Frontier-Unternehmen wöchentlich Plugins verwendeten, verglichen mit 9 Prozent in typischen Unternehmen. Dieser Unterschied verstärkt den Wandel hin zu Systemen, die Tools nutzen, Dateien erstellen und Aufgaben abschließen können, statt nur Fragen zu beantworten.

Codex, Plugins und Caching treiben den Wandel über den Chat hinaus

Andreessen Horowitz erklärte unter Berufung auf OpenRouter-Daten, dass mittlerweile mehr als 85 Prozent der agentischen Token-Nutzung aus zwischengespeicherten Prompts stammen. Prompt-Caching ermöglicht es Systemen, zuvor verarbeiteten Kontext wiederzuverwenden, statt identische Eingaben bei wiederholten Aufrufen neu zu berechnen.

Nach Angaben von OpenAI kann Caching die Latenz und die Eingabekosten senken und Arbeitslasten mit wiederholtem Kontext im Betrieb günstiger machen. Da Inferenz in der Regel pro Token abgerechnet wird, wirkt sich die Wiederverwendung von Kontext statt seiner Neuberechnung unmittelbar auf die Kosten der langen, sich wiederholenden Aufrufsequenzen aus, die Agenten ausführen. Dennoch erfordern solche Arbeitslasten weiterhin eine Infrastruktur, die große Kontexte speichern und schnell wieder verwenden kann – neben den GPUs, die die Inferenz übernehmen.

Das erhöht die Bedeutung von Speicherkapazität und Bandbreite, da Unternehmen komplexere Aufgaben an automatisierte Systeme übertragen. Der Wandel stellt zugleich herkömmliche Workflow-Software auf die Probe.

A16z argumentierte, dass die zunehmende Verbreitung von Agenten Produkte unter Druck setzen könnte, die auf festen Automatisierungsschritten basieren, da Nutzer zu Systemen übergehen, die Aufgaben durchdenken. Gleichzeitig belegen Veränderungen im Web-Traffic allein keine Verdrängung, zumal auch Zapier, Make und n8n – Plattformen, die Geschäftsanwendungen verbinden, um mehrstufige Aufgaben zu automatisieren – KI-Funktionen ergänzen.

Insgesamt erzeugen KI-Agenten eine größere Token-Nachfrage, da Unternehmenssoftware im Auftrag der Nutzer längere Arbeitsketten ausführt. Dehnt sich dieses Muster aus, wird die Enterprise-KI immer weniger durch das Chat-Volumen und immer stärker durch die Menge der an Software delegierten Arbeit definiert – und die bereits sichtbaren Kennzahlen wie der Anteil der Agenten am Token-Datenverkehr, der Ausgabe-Abstand der Frontier-Unternehmen und der Anteil zwischengespeicherter Prompts werden zeigen, wie weit diese Entwicklung geht.