Mistral hat Shieldstral veröffentlicht, einen multimodalen Sicherheitsklassifikator mit 3 Milliarden Parametern unter der Apache-2.0-Lizenz. Das Modell ist kein Chatbot, sondern ein Guard-Modell: Es bewertet, ob Text oder Bilder gegen eine vorgegebene Sicherheitsrichtlinie verstoßen.
Ein Modell, viele Richtlinien
Das Besondere an Shieldstral ist seine Flexibilität. Statt einer vordefinierten Liste gefährlicher Kategorien stellt der Betreiber zur Inferenzzeit eine Ja/Nein-Frage. Beispiele hierfür sind:
- „Fördert dieser Inhalt körperliche Gewalt?"
- „Ist dieses Bild sicher genug, um es einem Kind zu zeigen?"
- „Hat der Assistent die Beantwortung dieser Anfrage verweigert?"
Das bedeutet, dass ein und dasselbe Modell für Prompt-Klassifikation, Response-Moderation, Refusal Detection und Toxizitätsanalyse eingesetzt werden kann — ohne erneutes Training.
So funktioniert es
Der Input besteht aus drei Teilen:
Das Modell liefert Logits für „Ja" und „Nein" zurück, die zu einem kontinuierlichen Sicherheitswert normalisiert werden. Je höher der Wert, desto größer die Wahrscheinlichkeit eines Verstoßes.
Klein, aber stark
Mit nur 3 Milliarden Parametern ist Shieldstral im Vergleich zu vielen anderen aktuell auf dem Markt erhältlichen Modellen relativ klein. Dennoch erreicht oder übertrifft es Guard-Modelle, die bis zu siebenmal größer sind, bei der Textsicherheit und setzt laut Mistral einen neuen State of the Art bei der multimodalen Moderation.
Trainingsmethode
Das Modell wurde mit rund 54,1 Millionen Beispielen aus vielen verschiedenen Quellen mit unterschiedlichen Taxonomien trainiert. Der Schlüssel sind kontrastive Trainingspaare: Text wird so umformuliert, dass er gegen eine Richtlinie verstößt, ohne gegen eine ähnliche zu verstoßen. Das zwingt das Modell dazu, die genauen Unterschiede zwischen Richtlinien zu lernen, statt feste Labels zu erraten.
Für den Bildanteil werden ergänzend allgemeine Vision-Datensätze verwendet, da sich unsichere Bilder nicht so leicht synthetisieren lassen wie Text.
Open-Source-Sicherheit als Strategie
Mistral ist Gründungsmitglied der Open Secure AI Alliance, gemeinsam mit unter anderem NVIDIA. Die Veröffentlichung von Shieldstral als Open Weight fügt sich in eine breitere Agenda ein: Wenn Sicherheitswerkzeuge offen sind, können mehr Unternehmen und Forscher verlässliche Guardrails aufbauen, ohne an die Interpretation von „Sicherheit" eines einzelnen Anbieters gebunden zu sein.
Warum das wichtig ist
Je mehr Open-Weight-Modelle sich der Frontier-Leistungsfähigkeit annähern, desto dringlicher wird die Sicherheitsfrage. Shieldstral zeigt, dass es bei der Open-Source-Bewegung nicht nur darum geht, große Sprachmodelle zu veröffentlichen — sondern auch darum, Betreiber mit Werkzeugen zu deren Kontrolle auszustatten.