Das britische AI Security Institute und die amerikanische Behörde CAISI haben Moonshot AIs neues Modell Kimi K3 gemeinsam auf offensive Cyberfähigkeiten getestet. Ergebnis: 32,2% auf ExploitBench, einem Benchmark der Carnegie Mellon University, der 41 echte Schwachstellen in Chromes V8-Engine nachbaut. Die führenden US-Modelle kommen dort auf 76,2%, Chinas GLM-5.2 auf 24,4%. Kimi K3 setzt sich damit an die Spitze der offenen Modelle und bleibt trotzdem weit abgeschlagen.
Die härteste Stufe, Arbitrary Code Execution, erreichte Kimi K3 in keiner einzigen der 41 Aufgaben. Die US-Modelle schafften sie in 20. Im zweiten Test simulierten die Institute ein Firmennetz mit 32 Angriffsschritten über vier Subnetze und rund 20 Hosts, ein Mensch bräuchte dafür etwa 20 Stunden. Kimi K3 kam im Schnitt bis Schritt 17, die US-Modelle bis 28,5, GLM-5.2 bis 11. Einmal in zehn Versuchen lief der komplette Angriffspfad durch. Bemerkenswerter als die Zahl ist, was nicht passierte: Die Sicherheitsvorkehrungen des Modells blockierten weder die Exploit-Entwicklung noch den simulierten Angriff. Kimi half einfach mit, ohne Rückfrage.
Wer das als Entwarnung liest, hat die Fußnote überlesen. Die US-Modelle wurden mit abgeschalteten Schutzschichten getestet, um ihre Maximalfähigkeit zu messen. In den öffentlichen Versionen sind diese Schichten an. Kimi K3 dagegen ist ein offenes Modell, das jeder herunterladen und ohne jede Bremse laufen lassen kann. Das AISI beziffert den Rückstand offener Modelle inzwischen auf vier bis sieben Monate, Anfang 2025 waren es noch sechs bis zehn. Die Behörde nennt das ein »anhaltendes und irreversibles Missbrauchsrisiko«, was in Behördensprache ungefähr heißt: Das kriegen wir nicht mehr eingefangen.
Die Lücke zwischen starken Allgemein-Benchmarks und schwachen Cyber-Werten passt auffällig gut zu den Destillationsvorwürfen gegen Moonshot. US-Wissenschaftsberater Michael Kratsios hatte dem Unternehmen kürzlich vorgeworfen, Anthropics Fable-Ausgaben als Trainingsmaterial verwendet zu haben. Anthropics Klassifikatoren blockieren aber genau die fortgeschrittenen Cyber-Anfragen, entsprechende Antworten fehlen also im geklauten Datensatz. Ein Schüler, der die Wissenslücken seines Lehrers geerbt hat, weil der beim heiklen Kapitel geschwiegen hat. Mehr zu den Modellen aus China steht in unserem Überblick zu DeepSeek, Qwen und Kimi.
Quellen
- UK AI Security Institute: Preliminary assessment of Kimi K3’s cyber capabilities
- NIST / CAISI: UK AISI-CAISI Preliminary Assessment of Kimi K3’s Cyber Capabilities
- The Decoder: Kimi K3 trails frontier US models by a wide margin on cyber exploits, and distillation may explain why
Ähnliche News
- Kimi K3 wird das größte offene KI-Modell der Welt
- KI-Guardrails treiben Sicherheitsforscher zu Chinas Modellen
- Google veröffentlicht drei neue Gemini-Modelle, aber nicht Pro
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung. Fachbegriffe erläutert das Glossar.