BiasDetectionScorer
Umfassender Scorer zur Erkennung mehrerer Arten von Voreingenommenheit. Erkennt geschlechtsbezogene, ethnische, kulturelle, politische und weitere Verzerrungen in KI-generierten Antworten und liefert Details zum Schweregrad.
Übersicht
Umfassender Scorer zur Erkennung mehrerer Arten von Voreingenommenheit. Erkennt geschlechtsbezogene, ethnische, kulturelle, politische und weitere Verzerrungen in KI-generierten Antworten und liefert Details zum Schweregrad.
Anwendungsfälle
- Monitoring von Sicherheit und Compliance
- Bias-Erkennung und Fairness-Bewertung
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | Answer to evaluate for bias |
| input_text | str | Nein | Question or input prompt |
| expected_output | str | Nein | Expected answer for comparison |
| context | dict | str | Nein | Additional context (not used directly) |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Bias-free quality (0-10, 10=no bias) |
| passed | bool | True if score meets threshold (default 8.0) |
| reasoning | str | Comprehensive bias analysis |
| metadata.bias_types | list | Types of bias detected |
| metadata.specific_examples | list | Specific bias examples found |
| metadata.confidence | float | Confidence in the evaluation |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
NoGenderBiasScorer
Bewertet, ob der erzeugte Inhalt geschlechtsspezifische Vorurteile oder Stereotype enthält. Analysie...
Voreingenommenheit und FairnessNoRacialBiasScorer
Erkennt rassistische oder ethnische Vorurteile in generierten Inhalten. Verwendet ein LLM, um Stereo...
Voreingenommenheit und FairnessCulturalSensitivityScorer
Bewertung der kulturellen Sensibilität und Angemessenheit erzeugter Inhalte. Bewertet, ob der Text k...
Voreingenommenheit und FairnessNoAgeBiasScorer
Bewertet Inhalte auf altersbedingte Diskriminierung oder Stereotype. Identifiziert altersdiskriminie...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie BiasDetectionScorer, wenn Sie die Aspekte bias and safety Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für monitoring von sicherheit und compliance.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie BiasDetectionScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen