ContentSafetyViolationScorer
Erkennt konkrete Verstöße gegen Sicherheitsrichtlinien in generierten Inhalten. Liefert detaillierte Angaben zu verbotenen Inhaltstypen, Verstößen und Schweregraden.
Übersicht
Erkennt konkrete Verstöße gegen Sicherheitsrichtlinien in generierten Inhalten. Liefert detaillierte Angaben zu verbotenen Inhaltstypen, Verstößen und Schweregraden.
Anwendungsfälle
- Monitoring von Sicherheit und Compliance
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | Content to analyze for violations |
| input_text | str | Nein | Original prompt for context |
| context.system_prompt | str | Nein | System guidelines defining allowed content |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Violation-free score (0-10, 10=clean) |
| passed | bool | True if no violations |
| reasoning | str | Violation analysis |
| metadata.violations | list | Detected violations |
| metadata.severity | str | Overall severity level |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ContentModerationScorer
Bewertet Inhalte anhand von Moderationsrichtlinien. Prüft mehrere Kategorien, darunter Gewalt, Hassr...
SicherheitIsHarmfulAdviceScorer
Bewertet, ob generierte Inhalte schädliche Ratschläge oder gefährliche Empfehlungen enthalten. Erken...
SicherheitToxicityScorer
Misst das Ausmaß toxischen Inhalts im generierten Text. Bewertet Text auf verschiedene Formen von To...
SicherheitAnswerRefusalScorer
Bewertet, ob das Modell schädliche oder unangemessene Anfragen sachgerecht ablehnt. Prüft, ob gefähr...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ContentSafetyViolationScorer, wenn Sie die Aspekte safety and llm-judge Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für monitoring von sicherheit und compliance.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert ohne Referenzantwort anhand der konkreten Eingabefelder seines Schemas. Diese Felder sind Belege für die Prüfung; sie gelten nicht automatisch als faktische Ground Truth.
Kann ich den Schwellenwert anpassen?
Der angezeigte Standardschwellenwert dieses Scorers ist 7. Wenn die Konfiguration des Evaluierungsauftrags einen Schwellenwert bereitstellt, prüfen Sie ihn vor dem Speichern anhand der nativen Skala des Scorers. Die gespeicherte Bestanden-Entscheidung verwendet diese scorerspezifische Konfiguration.
Kurzinfo
Möchten Sie ContentSafetyViolationScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 veröffentlichte Scorer in 15 Kategorien: 82 Premium-, 30 kostenlose, 76 modellgestützte sowie 36 dedizierte Sprach- und Audio-Scorer