NachrichtenMakroAnthropic veröffentlicht Kennzahlen zu R&D-Automatisierung, Agenten-Überwachung und Safety-Compute

Anthropic veröffentlicht Kennzahlen zu R&D-Automatisierung, Agenten-Überwachung und Safety-Compute

Autor: Metaverse Post·

Wichtige Erkenntnisse

  • •Der neue R&D Automation Index von Anthropic stuft jede interne KI-F&E-Aufgabe auf der AL0–AL5-Automatisierungsskala von Epoch AI ein; Stand August 2026 leitet die KI rund 26 % der R&D-Arbeit des Unternehmens, während Claude in keinem gemessenen Bereich autonom operiert.
  • •Mehr als 90 % der R&D-Aufgaben von Anthropic liegen auf oder über dem Niveau, auf dem die KI mit Menschen zusammenarbeitet – Zahlen, mit denen das Unternehmen den Abstand der Branche zur rekursiven Selbstverbesserung bemisst.
  • •Rund 30.000 KI-Agenten betreiben Forschung und Entwicklung auf der am häufigsten genutzten internen Plattform von Anthropic; von über einer Milliarde analysierter Agentenentscheidungen im August wurden etwa 0,002 % blockiert, rund 100.000 Protokolle wöchentlich markiert und nur etwa 50 zur menschlichen Prüfung eskaliert.
  • •In einer einwöchigen Compute-Aufnahme entfielen rund 6 % des KI-F&E-Computers von Anthropic auf Safety-Arbeit, innerhalb der KI-getriebenen F&E etwa 12 % – Schätzungen, die das Unternehmen als bewusst konservativ bezeichnet.
  • •Anthropic plant, unabhängige externe Evaluatoren mit vergleichbarem Zugang wie seinen internen Risikoteams einzubinden, räumt jedoch ein, dass es noch keine gemeinsame Methodik für den Vergleich von Automatisierungsmwerten zwischen Laboren gibt.
Anthropic veröffentlicht Kennzahlen zu R&D-Automatisierung, Agenten-Überwachung und Safety-Compute

Anthropic hat eine Reihe interner Messwerte veröffentlicht, die der Öffentlichkeit, Aufsichtsbehörden und externen Beobachtern einen klareren Einblick geben sollen, wie schnell sich die Entwicklung前沿er KI voranschreitet – darunter auch, wie viel der Arbeit an neuen Modellen inzwischen von der KI selbst erledigt wird.

Im Zentrum der Veröffentlichung steht der Anthropic R&D Automation Index, ein prototypischer Messwert, der jede Art von KI-Forschungs- und Entwicklungsaufgabe im Unternehmen erfasst und jeweils auf einer von Epoch AI entwickelten Automatisierungsskala einordnet. Die Skala reicht von AL0 (keine KI-Beteiligung) bis AL5 (vollautonomer Betrieb ohne menschliche Beteiligung). Innerhalb dieses Rahmens bezeichnet AL3 Aufgaben, bei denen die KI unter enger menschlicher Leitung zusammenarbeitet, während AL4 Aufgaben umfasst, die die KI auf Basis einer übergeordneten Vorgabe vollständig mit menschlicher Aufsicht erledigt. Der Abstand dieser Stufen zu AL5 verleiht dem Index seine Bedeutung: Er misst, Aufgabe für Aufgabe, wie weit der R&D-Betrieb des Unternehmens von dem Punkt entfernt ist, an dem die KI die Arbeit ohne menschliche Beteiligung übernehmen könnte.

Stand August 2026 operiert Claude in keinem gemessenen Bereich der KI-Forschung und -Entwicklung vollautonom. Dennoch leitet die KI rund 26 % der R&D-Arbeit von Anthropic, und mehr 90 % der Aufgaben liegen auf oder über dem Niveau, auf dem die KI mit Menschen zusammenarbeitet. Anthropic versteht diese Zahlen als Mittel, um zu verfolgen, wie nah die Branche der rekursiven Selbstverbesserung ist – einem Szenario, in dem ein Modell autonom seinen eigenen Nachfolger entwickelt – und weist darauf hin, dass sich die Werte bei koordinierten Bemühungen zur Verlangsamung der Entwicklung verschieben würden. So betrachtet, verwandelt die Veröffentlichung eine abstrakte Sorge in eine dokumentierte, wiederholbare Grundlinie, an der künftige Offenlegungen gemessen werden können.

Das Unternehmen kündigte die Offenlegung in einem Beitrag auf X an:

AI systems are getting more powerful, and they're increasingly being used to build the next version of themselves. We want to illuminate that progress for the public. Today, we're sharing three measurements that help track development: 1. How much AI R&D is done by AI. 2. How…

— Anthropic (@AnthropicAI) September 17, 2026

Zusammen decken die Messwerte ab, wie viel KI-R&D von der KI selbst geleistet wird, wie KI-Agenten in der Praxis überwacht werden und wie der Compute auf die Arbeit des Unternehmens verteilt ist.

Das Unternehmen kombinierte den Index mit neuen Daten zur Überwachung von KI-Agenten. Rund 30.000 Agenten führten Forschungs- und Ingenieurstätigkeit auf der am häufigsten genutzten internen Plattform von Anthropic durch, und jede ihrer Aktionen durchläuft vor der Ausführung Online-Monitore in Echtzeit sowie afterward Offline-Monitore, die die Aktivität im Nachhinein prüfen. Von über einer Milliarde analysierter Agentenentscheidungen im August wurden etwa 0,002 % – rund eine von 47.000 – blockiert. Offline-Monitore markieren ein bis zwei Protokolle pro Tausend, wöchentlich sind es rund 100.000 markierte Protokolle, von denen nur etwa 50 zur menschlichen Prüfung eskaliert werden. Die Zahlen zeichnen einen sich verengenden Überwachungstrichter nach – von über einer Milliarde analysierter Entscheidungen im August über rund 100.000 wöchentlich markierte Protokolle bis zu etwa 50 an die menschliche Prüfung eskalierten Fällen – und zeigen, wie sich die automatisierte Filterung unter dem menschlichen Urteil staffelt, während Agenten echte Forschungs- und Ingenieuraufgaben übernehmen.

Compute-Zuteilung als überprüfbarer Stellschraube für das Entwicklungstempo

Der dritte Messwert betrifft den Compute, einen der am besten überprüfbaren Inputfaktoren der KI-Entwicklung und damit eine potenzielle Stellschraube für ein künftiges branchenweites Tempo-Regime. In einer einwöchigen Aufnahme der gesamten Compute-Nutzung von Anthropic entfielen rund 6 % des für KI-F&E aufgewendeten Computes auf-Arbeit; innerhalb der KI-getriebenen F&E waren es etwa 12 %. Das Unternehmen bezeichnet diese als bewusst konservative Schätzungen und weist darauf hin, dass Compute ein unvollkommener Stellvertreter für Safety-Investitionen ist, da ein Großteil der Safety-Forschung designintensiv statt computeintensiv ist. Diese Prozentwerte sind zugleich die Art von harten, zählbaren Zahlen, die externe Parteien – oder ein künftiges Tempobkommen – über die Zeit verfolgen könnten.

Anthropic positioniert die Veröffentlichung als Ergänzung zu seinen Risikoberichten der Responsible Scaling Policy und seinem politischen Vorschlag des Advanced AI Framework, der Transparenzpflichten umreißt, die Regierungen Laboren auferlegen könnten. Das Unternehmen kündigte zudem Pläne an, unabhängige externe Evaluatoren mehrerer Organisationen bei Anthropic zu integrieren und ihnen Zugang zu internen Systemen und Daten zu gewähren, der dem seiner eigenen Risikobewertungsteams vergleichbar ist.

Der läbergreifende Vergleich bleibt eine Herausforderung. Anthropic räumt ein, dass es keine gemeinsame Methodik zur Messung der Automatisierung gibt und dass die Bewertung der eigenen Systeme mit eigenen Modellen potenzielle blinde Flecken schafft. Es verweist auf Überprüfungen durch Dritte oder durch Modelle anderer Entwickler – mit Schutzmaßnahmen für wettbewerbskritische Informationen – als Weg zu standardisierter Berichterstattung, auf die sich Regierungen und die Öffentlichkeit verlassen könnten. Solange es eine solche Methodik nicht gibt, hat eine Zahl wie die 26%-Automatisierungsrate kein anerkanntes Gegenstück bei anderen Entwicklern – was die geplante Einbindung unabhängiger Evaluatoren und jede Bewegung hin zu gemeinsamen Messstandards zum konkreten Gradmesser dafür macht, ob dieses Transparenzvorhaben über ein einzelnes Labor hinaus ausgedehnt werden kann.

Quelle: Metaverse Post