Mistral hat am 4. August Shieldstral veröffentlicht, einen Sicherheitsklassifikator mit 3 Milliarden Parametern. Er prüft Texte und Bilder gegen Regeln, die man ihm im Moment der Anfrage in normaler Sprache hinschreibt. Die Gewichte liegen unter Apache 2.0 auf Hugging Face. Kein Abo, kein Endpunkt bei einem amerikanischen Anbieter, kein Nachtrainieren.
Der Trick ist unspektakulär und deshalb gut. Statt einer Liste fester Schadenskategorien in den Gewichten bekommt das Modell drei Felder: eine Instruktion mit Kontext und Strenge, eine Ja-Nein-Frage wie »Fördert dieser Inhalt körperliche Gewalt?«, und den zu prüfenden Inhalt. Beim Durchlauf liest Shieldstral nur die Logits für »yes« und »no« aus und normalisiert sie per Softmax zu einem durchgehenden Wert zwischen null und eins. Ein einziger Forward-Pass, ein einziges Token, ein Schwellenwert, den man selbst setzt. Das Ding basiert auf Ministral-3-3B mit Pixtral als Vision-Encoder, deckt zwölf Sprachen ab und läuft auf einer einzelnen Karte mit 16 GB.
Relevant ist das, weil Moderation bisher zwei Aggregatzustände hatte: entweder man schickt alles zu einem großen Anbieter und akzeptiert dessen Vorstellung von Anstand, oder man trainiert selbst nach, sobald sich die eigenen Regeln ändern. Was in einem Sicherheitsforschungstool völlig in Ordnung ist, hat auf einer Plattform für psychische Gesundheit nichts verloren, und umgekehrt. Shieldstral verschiebt diese Entscheidung dorthin, wo sie hingehört, nämlich in den Prompt des Betreibers. Mistral gibt an, damit offene Guard-Modelle bis zur siebenfachen Größe zu erreichen oder zu schlagen, bei Textsicherheit, Refusal-Erkennung, Anpassbarkeit der Richtlinien und multimodaler Moderation.
Ein Wermutstropfen bleibt. Die Benchmarks stammen von Mistral selbst, die Testdaten sind zwar aus dem Training herausgehalten, aber eben auch selbst ausgewählt. Und ein Modell, das jede Richtlinie akzeptiert, die man ihm hinlegt, akzeptiert auch jede schlechte Richtlinie, die man ihm hinlegt. Der Türsteher ist jetzt billig, mehrsprachig und läuft im eigenen Keller. Wen er reinlässt, entscheidet weiterhin der Wirt.
Quellen
- Mistral AI: Introducing Shieldstral.
- arXiv: Shieldstral (Technical Report)
- Hugging Face: mistralai/Shieldstral-1.0-3B
Ähnliche News
- DeepSeek verschenkt seinen Tempo-Trick und benchmarkt ihn gleich selbst
- Xiaomi verschenkt einen Coding-Agenten, der Claude Code schlagen soll
- OpenAI verschenkt Sol Pro an 100.000 Forscher
Diese Meldung wurde mit Unterstützung von Claude (Anthropic) recherchiert und verfasst. Inhaltliche Fehler sind möglich. Die verlinkten Quellen ermöglichen eine eigene Prüfung. Fachbegriffe erläutert das Glossar.