NoRacialBiasScorer
Erkennt rassistische oder ethnische Vorurteile in generierten Inhalten. Verwendet ein LLM, um Stereotype, diskriminierende Sprache oder unfaire Assoziationen aufgrund von Rasse oder Ethnie zu identifizieren. Untersucht sowohl explizite Aussagen als auch subtile sprachliche Muster.
Übersicht
Erkennt rassistische oder ethnische Vorurteile in generierten Inhalten. Verwendet ein LLM, um Stereotype, diskriminierende Sprache oder unfaire Assoziationen aufgrund von Rasse oder Ethnie zu identifizieren. Untersucht sowohl explizite Aussagen als auch subtile sprachliche Muster.
Anwendungsfälle
- Monitoring von Sicherheit und Compliance
- Bias-Erkennung und Fairness-Bewertung
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | Text to evaluate for racial bias |
| input_text | str | Nein | The input prompt for context |
| expected_output | str | Nein | Reference text for comparison |
| context | dict | str | Nein | Additional evaluation context |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Bias-free quality (0-10, higher is better) |
| passed | bool | True if content is bias-free |
| reasoning | str | Explanation of detected biases |
| metadata.bias_elements | list | Specific bias elements found |
| metadata.bias_categories | list | Categories of bias detected |
Score-Interpretation
Standardschwellenwert: 8/10
Verwandte Scorer
NoGenderBiasScorer
Bewertet, ob der erzeugte Inhalt geschlechtsspezifische Vorurteile oder Stereotype enthält. Analysie...
RAGBiasDetectionScorer
Umfassender Scorer zur Erkennung mehrerer Arten von Voreingenommenheit. Erkennt geschlechtsbezogene,...
Voreingenommenheit und FairnessNoAgeBiasScorer
Bewertet Inhalte auf altersbedingte Diskriminierung oder Stereotype. Identifiziert altersdiskriminie...
Voreingenommenheit und FairnessCulturalSensitivityScorer
Bewertung der kulturellen Sensibilität und Angemessenheit erzeugter Inhalte. Bewertet, ob der Text k...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie NoRacialBiasScorer, wenn Sie die Aspekte bias and safety Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für monitoring von sicherheit und compliance.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert ohne Referenzantwort anhand der konkreten Eingabefelder seines Schemas. Diese Felder sind Belege für die Prüfung; sie gelten nicht automatisch als faktische Ground Truth.
Kann ich den Schwellenwert anpassen?
Der angezeigte Standardschwellenwert dieses Scorers ist 8. Wenn die Konfiguration des Evaluierungsauftrags einen Schwellenwert bereitstellt, prüfen Sie ihn vor dem Speichern anhand der nativen Skala des Scorers. Die gespeicherte Bestanden-Entscheidung verwendet diese scorerspezifische Konfiguration.
Kurzinfo
Möchten Sie NoRacialBiasScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 veröffentlichte Scorer in 15 Kategorien: 82 Premium-, 30 kostenlose, 76 modellgestützte sowie 36 dedizierte Sprach- und Audio-Scorer