Ing. Calogero Bono
Anthropic hat seine ersten Messungen dazu veröffentlicht, wie viel der eigenen KI-Forschung bereits von Claude erledigt wird. Zugleich hat das Unternehmen in der überarbeiteten Fassung des Dokuments S-1/A, das am 2. November 2026 bei der SEC eingereicht wurde, geschrieben, dass es bald die eigene Definition von durch KI beschleunigtem Fortschritt erfüllen könnte. Das ist wichtig, weil eine große Firma Zahlen zum eigenen internen Prozess nennt und zugibt, in der Vergangenheit wichtige Beschleunigungen nicht bemerkt zu haben, während sie stattfanden.
Ein paar Begriffe, bevor wir in die Fakten einsteigen. RSI (recursive self-improvement) ist die rekursive Selbstverbesserung, ein Modell, das am Aufbau seines eigenen Nachfolgers mitwirkt. AI R&D steht für Forschung und Entwicklung im Bereich KI. AL ist die Automatisierungsskala von Epoch AI, von AL0 (kein Eingreifen der KI) bis AL5 (vollständige Autonomie). S-1 ist das Dokument, das vor einem Börsengang bei der SEC eingereicht wird. Compute bezeichnet die Rechenleistung, mit der Modelle trainiert und betrieben werden.
Was hat Anthropic zur KI gemessen, die KI entwickelt?
Im offiziellen Beitrag schlägt das Unternehmen drei Messinstrumente vor. Das erste betrifft, wie stark die KI die nächste Version ihrer selbst im Vergleich zu Menschen baut. Das zweite die Fähigkeit, Aktionen von KI-Agenten auf internen Systemen zu überwachen und zu stoppen. Das dritte die Ressourcen, die die Entwicklung leistungsfähigerer Modelle antreiben.
Anthropic hat einen Prototyp namens Anthropic R&D Automation Index entwickelt. Er erfasst jede Art von Forschungsarbeit im Unternehmen, bewertet, wie stark sie automatisiert ist, und fasst die Werte zusammen.
Wie viel Forschungsarbeit erledigt Claude bereits?
Laut Anthropic arbeitet Claude im August 2026 in keinem gemessenen Teilbereich der Forschungsarbeit in voller Autonomie. Das Modell «führt» 26 % dieser Arbeit, das heißt, es erledigt den größten Teil einer Aufgabe nach einer übergeordneten Anweisung, während ein Mensch überwacht. Der Anteil der Arbeit, bei der die KI zumindest auf der Stufe «die KI arbeitet mit» liegt, übersteigt 90 %.
Das sind Angaben des Unternehmens, die nicht von Dritten überprüft wurden. Anthropic selbst weist auf zwei Hindernisse beim Vergleich zwischen Laboren hin. Es fehlt eine gemeinsame Methodik, und bewertet wird von einem eigenen Modell, das ebenso fehlerhaft sein könnte wie das kontrollierte.
Wie werden KI-Agenten kontrolliert?
Im August 2026 waren auf der meistgenutzten internen Plattform gleichzeitig rund 30.000 Agenten in Forschung und Entwicklung im Einsatz. Die Messungen decken nur diese Plattform ab. Anthropic schlägt drei Indikatoren vor.
- Abdeckung, der Anteil der Aktionen, die vor oder nach der Ausführung durch einen Monitor laufen.
- Prüfverzögerung, die Zeit zwischen Aktion und Kontrolle, zunächst automatisch, dann durch einen Menschen.
- Eskalationsrate, der Anteil der Aktivitäten, die blockiert, umgeleitet oder gemeldet werden.
Das Unternehmen erklärt, einzelne Agenten machten selten Fehler, doch bei Millionen von Agenten werden auch seltene Ereignisse häufig. Wer Agenten in den eigenen Abläufen einsetzt, für den liegt das Thema nahe an Jailbreaks und Prompt Injection.
Was sagt das S-1 zum Risiko einer RSI?
Wie TechCrunch berichtet und HDblog aufgreift, schreibt Anthropic in den Risikofaktoren, dass das Unternehmen eine starke Beschleunigung in der Vergangenheit erst bemerkt hat, nachdem sie schon stattgefunden hatte. Es fügt hinzu, dass interne Schätzungen dazu führen könnten, dass es die Definition von durch KI drastisch beschleunigtem Fortschritt aus seiner Responsible Scaling Policy «in Kürze» erfüllt.
Kein aktuelles Modell wurde als über der Schwelle liegend genannt. Das Unternehmen gibt an, nicht vorzusehen, Claude völlig autonom ohne bedeutsame menschliche Aufsicht einzusetzen, und Änderungen an der Policy zu prüfen, um die menschliche Kontrolle zu wahren.
Grenzen, die du kennen solltest
Die Zahlen zur Automatisierung stammen aus einem prototypischen Index, der mit unternehmenseigenen Modellen berechnet wurde und extern nicht überprüft ist. Die Messungen zu Agenten betreffen nur eine einzige Plattform. Die Analyse zur Nutzung von Compute deckt eine Woche ab, vom 13. bis 20. Juli, und die uns vorliegende offizielle Quelle bricht ab, bevor sie die Ergebnisse zeigt, weshalb wir sie nicht wiedergeben. Offen bleibt, wie die unabhängigen Prüfer aussehen werden, die Anthropic einbinden will.
Was sich für digital Arbeitende ändert
Für ein Unternehmen oder einen Entwickler ist das Signal, dass KI schon einen großen Teil des Codes und der Analysen derer schreibt, die sie bauen. Es empfiehlt sich, Assistenten nicht für unfehlbar zu halten und immer eine menschliche Prüfung einzuplanen. Wer Modelle über eine API einbindet, sollte mit schnellen Updates und Verhaltensänderungen zwischen Versionen rechnen. Auch die europäische Regulierung, beschrieben im Leitfaden zum EU AI Act, setzt auf Transparenz über Modelle.
Unsere Einschätzung
Metriken zum eigenen Prozess zu veröffentlichen ist ein nützlicher und seltener Schritt. Doch es ist eine Selbstbewertung, und ein S-1 ist zugleich ein Marketingdokument, wie TechCrunch erinnert. Der Wert wird von unabhängiger Überprüfung abhängen, nicht von den Prozentzahlen. Auffällig ist das Eingeständnis, vergangene Beschleunigungen übersehen zu haben. Wenn es stimmt, liegt das Problem nicht nur in der Geschwindigkeit, sondern in der Fähigkeit, sie rechtzeitig zu erkennen.
Häufige Fragen
Was ist RSI?
Es ist die autonome rekursive Selbstverbesserung. Ein Modell trägt dazu bei, eine leistungsfähigere Version seiner selbst zu schaffen, die die nächste Generation beschleunigt. Nach Anthropics Definition ist der Extremfall ein Modell, das seinen Nachfolger in voller Autonomie baut.
Baut sich Anthropics KI schon jetzt selbst?
Nicht vollständig. Anthropic gibt an, dass Claude in keinem gemessenen Teilbereich in voller Autonomie arbeitet. Das Modell führt aber 26 % der Arbeit und arbeitet bei über 90 % der Forschungsarbeit mit.
Sagt Anthropic, dass RSI unmittelbar bevorsteht?
Das Unternehmen sagt, es könnte bald die Definition von durch KI stark beschleunigtem Fortschritt in seiner eigenen Policy erfüllen. Kein aktuelles Modell wurde als über der Schwelle liegend genannt, und das Unternehmen wertet die Daten noch aus.
Wer überprüft diese Zahlen?
Vorerst niemand von außen. Anthropic plant, unabhängige Prüfer mehrerer Organisationen einzubinden, mit Zugang zu internen Prozessen und Daten. In der Vergangenheit hat METR sein Offline-Monitoring getestet.
Warum gibt es Skepsis?
Weil das S-1 sowohl informieren als auch das Unternehmen bewerben soll. Zu sagen, man sei einem sich selbst bauenden Modell nahe, kann auch eine imagefördernde Funktion haben, wie TechCrunch anmerkt.
Unabhängige Prüfungen und Regeln zur menschlichen Kontrolle, die Signale, auf die man achten sollte
Die nächsten Monate werden zeigen, ob diese Zahlen zum Standard werden oder eine isolierte Initiative bleiben. Entscheidend sind die Prüfung durch Dritte und mögliche Änderungen an der Policy.
- Prüfe, ob die versprochenen unabhängigen Beobachter tatsächlich kommen und welche Daten sie einsehen dürfen.
- Verfolge die Aktualisierungen der Responsible Scaling Policy zum Erhalt der menschlichen Kontrolle.
- Schau nach, ob andere Labore vergleichbare Messungen mit denselben Metriken veröffentlichen.
