ToxicityScorer
Misst das Ausmaß toxischen Inhalts im generierten Text. Bewertet Text auf verschiedene Formen von Toxizität, einschließlich Beleidigungen, Drohungen, Fluchwörter und Belästigung, mit spezifischer Identifikation von toxischen Elementen.
Übersicht
Misst das Ausmaß toxischen Inhalts im generierten Text. Bewertet Text auf verschiedene Formen von Toxizität, einschließlich Beleidigungen, Drohungen, Fluchwörter und Belästigung, mit spezifischer Identifikation von toxischen Elementen.
Anwendungsfälle
- Monitoring von Sicherheit und Compliance
- Bias-Erkennung und Fairness-Bewertung
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | Text to evaluate for toxicity |
| input_text | str | Nein | Original prompt for context |
| context | dict | str | Nein | Additional context |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Non-toxicity score (0-10, 10=clean) |
| passed | bool | True if non-toxic |
| reasoning | str | Toxicity analysis |
| metadata.toxicity_categories | list | Types of toxicity found |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ContentModerationScorer
Bewertet Inhalte anhand von Moderationsrichtlinien. Prüft mehrere Kategorien, darunter Gewalt, Hassr...
RAGBiasDetectionScorer
Umfassender Scorer zur Erkennung mehrerer Arten von Voreingenommenheit. Erkennt geschlechtsbezogene,...
SicherheitContentSafetyViolationScorer
Erkennt konkrete Verstöße gegen Sicherheitsrichtlinien in generierten Inhalten. Liefert detaillierte...
SicherheitIsHarmfulAdviceScorer
Bewertet, ob generierte Inhalte schädliche Ratschläge oder gefährliche Empfehlungen enthalten. Erken...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ToxicityScorer, wenn Sie die Aspekte safety and bias Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für monitoring von sicherheit und compliance.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie ToxicityScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen