Mehr als 80 Prozent des Codes, der bei Anthropic in die eigenen Systeme einfließt, stammt inzwischen nicht mehr von Menschen, sondern von Claude, der KI des Hauses. Das ist keine Randnotiz, sondern der eigentliche Grund für das, was die Firma diese Woche vorschlägt. Nämlich dass die ganze Branche das Tempo drosselt.
Eine Firma, die gerade die Unterlagen für einen der größten Börsengänge der Tech-Geschichte eingereicht hat und mit fast einer Billion Dollar bewertet wird, ruft jetzt zur Pause, weil die KI-Entwicklung zu schnell geht. Das ist kein Tippfehler.
Inhaltsverzeichnis
Was Anthropic vorschlägt
Der Vorschlag steckt in einem Blogbeitrag mit dem Titel »When AI builds itself«, geschrieben von Marina Favaro und Jack Clark, veröffentlicht vom hauseigenen Anthropic Institute. Die Kernforderung ist vorsichtiger formuliert, als die Schlagzeilen vermuten lassen. Anthropic will nicht abschalten. Anthropic will, dass die Welt die Option hat, die Entwicklung der leistungsstärksten Modelle zu verlangsamen oder zeitweise anzuhalten, damit Gesellschaft und Sicherheitsforschung hinterherkommen. Im Kern ist das ein freiwilliger Stopp auf Zeit.
Entscheidend ist die Bedingung. Ein solcher Stopp ergibt für Anthropic nur Sinn, wenn mehrere große Labore in mehreren Ländern gleichzeitig anhalten, allen voran in den USA und China, und wenn jeder überprüfen kann, dass die anderen sich daran halten. Einen Alleingang lehnt die Firma ausdrücklich ab. Er würde nur die Rangordnung verschieben, nicht das Risiko senken. Wer pausiert, während die anderen weiterlaufen, verliert den Vorsprung und gewinnt nichts.
Die Zahlen, die dahinterstehen
Die Begründung ist nicht bloß Rhetorik, sondern Datenmaterial, teils zum ersten Mal offengelegt. Im Mai 2026 schrieb Claude laut Anthropic über 80 Prozent des Codes, der in die Produktion ging. Vor dem Start von Claude Code im Februar 2025 lag der Wert im niedrigen einstelligen Bereich. Ein typischer Entwickler bringt heute rund achtmal so viel Code pro Tag durch wie 2024, weil er nicht mehr tippt, sondern dirigiert und prüft. Anthropic räumt selbst ein, dass Codezeilen die Produktivität überzeichnen. Ein Sprung bleibt es trotzdem.
Aussagekräftiger als die Codezeilen ist eine Messung des Forschungsinstituts METR. Sie erfasst, wie lange eine Aufgabe dauern darf, die ein Modell noch zuverlässig allein erledigt. Dieser Zeithorizont verdoppelt sich gerade etwa alle vier Monate, vorher waren es sieben. Im März 2024 schaffte Claude Aufgaben von rund vier Minuten Länge. Ein Jahr später anderthalb Stunden. Wieder ein Jahr später zwölf. Hält die Kurve, rücken in diesem Jahr Aufgaben in Reichweite, an denen ein Mensch tagelang säße.
Dazu die Benchmarks, also die Standardtests der Branche. Bei SWE-bench, das Modelle echte Bugs in echten Codebasen beheben lässt, kletterten die Werte in zwei Jahren von einstelligen Prozenten auf nahezu volle Punktzahl. Und bei einem internen Test ließ das noch zurückgehaltene Modell Mythos im April 2026 vorhandenen Trainingscode rund 52-mal schneller laufen als zuvor. Ein Jahr davor war es das Dreifache. Ein geübter Mensch braucht für das Vierfache mehrere Stunden.
Die eigentliche Angst heißt rekursive Selbstverbesserung
Hinter all dem steht ein einziger Begriff. Wenn KI immer größere Teile der KI-Entwicklung übernimmt, also Code schreibt, Experimente autonom ausführt und Forschungsrichtungen vorschlägt, dann ist der Endpunkt dieser Linie ein System, das seinen eigenen Nachfolger entwirft und baut. Ohne dass ein Mensch noch jeden Schritt versteht.
Rekursive Selbstverbesserung beschreibt ein KI-System, das fähig wird, seinen eigenen Nachfolger zu entwerfen und zu trainieren, sich also selbst zu verbessern, ohne dass Menschen jeden Schritt steuern. Je kleiner die Rolle des Menschen, desto schneller und schwerer kontrollierbar kann sich die Entwicklung beschleunigen.
Anthropic ist vorsichtig genug, das nicht als Gewissheit zu verkaufen. Man sei noch nicht dort, zwangsläufig sei es auch nicht. Aber es könnte früher kommen, als die meisten Institutionen vorbereitet sind. Die Sorge ist dabei nicht, dass die Maschine böse wird. Die Sorge ist, dass niemand mehr nachvollzieht, was sie tut, und dass kleine Fehlausrichtungen sich beim Bau des nächsten Modells fortpflanzen und verstärken. Dass eine KI gezielt täuschen kann, wenn es ihren Zielen dient, ist in Experimenten gezeigt, nicht mehr bloß befürchtet.
Das Neue ist nicht, dass KI besser wird. Das Neue ist, dass sie ihre eigene Verbesserung beschleunigt.
Was ein Waffenstillstand bringen würde
Angenommen, es käme zustande. Was brächte ein solcher Waffenstillstand? Vor allem Zeit. Zeit für die Sicherheitsforschung, die der Leistung der Modelle hinterherhinkt. Zeit für Gesetzgeber, Gerichte, Schulen und Behörden, die mit Technik von gestern auf Probleme von morgen reagieren. Zeit auch, sich darauf einzustellen, dass eine Firma mit hundert Leuten bald die Arbeit von zehntausend erledigen könnte.
Das ist die optimistische Lesart. Es gibt eine zweite. Ein Stopp, den nur die Vorsichtigen einhalten, macht die Welt nicht sicherer, sondern überlässt das Feld den Unvorsichtigen. Genau das ist Anthropics eigenes Argument gegen den Alleingang, und es schneidet in beide Richtungen. Denn wer garantiert, dass ein global vereinbarter Stopp überhaupt eingehalten wird? Damit ist man schon mitten in der Frage, warum daraus vermutlich nichts wird.
Warum niemand die KI-Entwicklung stoppen wird
Das Problem ist nicht die Idee, sondern die Durchsetzung. Wer die KI-Entwicklung stoppen will, müsste das überprüfbar machen, sonst ist die Abmachung wertlos. Und genau hier liegt der Haken, den Anthropic selbst benennt. Ein Trainingslauf lässt sich leichter verbergen als ein Raketensilo. Die Zutaten sind Allzweckhardware und Strom, kein angereichertes Uran. Wer heimlich weitermacht, während die anderen pausieren, erbt den Vorsprung. Der Anreiz zu schummeln ist also gewaltig.
Warum sich KI schlechter überwachen lässt als Atomwaffen
| Atomwaffen | KI-Modelle | |
|---|---|---|
| Nachweisbarkeit | Silos und Anlagen sind physisch sichtbar | Trainingsläufe laufen in normalen Rechenzentren |
| Zutaten | angereichertes Uran, Spezialtechnik | Allzweck-Chips und Strom |
| Kontrollverträge | etabliert, über Jahrzehnte aufgebaut | kaum vorhanden, wenig Vorlauf |
| Heimlich weitermachen | schwer zu verbergen | leicht zu verbergen |
| Zeitbedarf | Aufbau dauert Jahre | ein Trainingslauf dauert Wochen |
Dazu die Geopolitik. Ein echter Stopp bräuchte die USA und China am selben Tisch, unter denselben Regeln. In Washington gilt jede Verlangsamung vielen aber als Geschenk an Peking, im selben Geist, der schon hinter den Chip-Exportkontrollen der letzten Jahre stand. Es gibt zwar Signale, dass über Sicherheit geredet wird; US-Präsident Trump sprach nach seinem Peking-Besuch von möglicher Zusammenarbeit. Von einem verbindlichen, kontrollierbaren Stopp ist das weit entfernt.
Und es ist nicht das erste Mal. Im Frühjahr 2023 forderte ein offener Brief, unterschrieben von Tausenden, darunter Elon Musk, eine sechsmonatige Pause bei den stärksten Modellen. Pausiert hat niemand. Danach beschleunigte sich die Entwicklung eher, als dass sie stockte. Ein Versprechen, vom Gas zu gehen, kostet nichts, solange der Fuß auf dem Pedal bleibt.
Der Verdacht, der mitschwingt
Bleibt die unbequeme Frage nach dem Motiv. Warum warnt ausgerechnet die Firma vor der Gefahr, mit der sie ihr Geld verdient, und das kurz vor dem Börsengang? Für manche ist die Antwort einfach. Der Risikokapitalgeber David Sacks, ein informeller Berater Trumps, wirft Anthropic seit Längerem vor, mit Angst Politik zu machen, um über Regulierung die Konkurrenz auszubremsen. Auch die zurückgehaltene Mythos-Variante, angeblich zu mächtig für die Öffentlichkeit, lässt sich als Werbung lesen.
Andere sehen es nüchterner. Der Wirtschaftsprofessor Ethan Mollick nannte den Text eine Mischung aus Nabelschau, Marketing und sehr aufrichtigem Glauben an das, was Anthropic für wahrscheinlich hält. Womöglich ist das die ehrlichste Beschreibung, weil beides zugleich stimmen kann. Ein Unternehmen kann an die Gefahr glauben und sie zugleich verkaufen. Denkbar bleibt eine dritte Möglichkeit, dass die steile Kurve irgendwann abknickt, weil sich gutes Urteilsvermögen nicht so einfach hochskalieren lässt wie Rechenleistung. Die Geschichte der Künstlichen Intelligenz kennt solche Knicke zur Genüge.
Was bleibt, ist ein ungewöhnlicher Moment. Ein führendes Labor legt offen, wie schnell sich die eigene Arbeit beschleunigt, und findet, dass ihm das Sorgen bereitet. Das ist mehr, als die Branche sonst preisgibt. Nur folgt aus einer Diagnose keine Therapie. Der Waffenstillstand, den Anthropic sich wünscht, scheitert nicht an der Einsicht, sondern am Misstrauen aller gegen alle. (lk)
