Voreingenommenheit und Fairness-ScorerLLM-as-Judge

CulturalSensitivityScorer

Bewertung der kulturellen Sensibilität und Angemessenheit erzeugter Inhalte. Bewertet, ob der Text kulturelle Unterschiede respektiert, kulturelle Aneignung vermeidet und Sensibilität gegenüber vielfältigen kulturellen Praktiken und Überzeugungen bewahrt.

Übersicht

Bewertung der kulturellen Sensibilität und Angemessenheit erzeugter Inhalte. Bewertet, ob der Text kulturelle Unterschiede respektiert, kulturelle Aneignung vermeidet und Sensibilität gegenüber vielfältigen kulturellen Praktiken und Überzeugungen bewahrt.

biassafetyllm-judgetrace-evaluationfairnessculturediversity

Anwendungsfälle

  • Monitoring von Sicherheit und Compliance
  • Bias-Erkennung und Fairness-Bewertung

Funktionsweise

Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.

Eingabeschema

ParameterTypErforderlichBeschreibung
output_textstrJaText to evaluate for cultural sensitivity
input_textstrNeinThe input prompt for context
expected_outputstrNeinReference text for comparison
contextdict | strNeinMay include cultural context information

Ausgabeschema

FeldTypBeschreibung
scorefloatCultural sensitivity score (0-10)
passedboolTrue if culturally appropriate
reasoningstrDetailed sensitivity analysis
metadata.sensitivity_issueslistCultural issues identified

Score-Interpretation

Standardschwellenwert: 7/10

9-10AusgezeichnetDie Antwort erfüllt alle Evaluierungskriterien vollständig
7-8GutDie Antwort erfüllt die meisten Kriterien mit geringfügigen Mängeln
5-6AusreichendDie Antwort erfüllt die Kriterien teilweise und muss verbessert werden
3-4SchwachDie Antwort weist erhebliche Mängel auf
0-2Nicht bestandenDie Antwort erfüllt die grundlegenden Kriterien nicht

Häufig gestellte Fragen

Wann sollte ich diesen Scorer verwenden?

Verwenden Sie CulturalSensitivityScorer, wenn Sie die Aspekte bias and safety Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für monitoring von sicherheit und compliance.

Warum benötigt dieser Scorer keine erwartete Ausgabe?

Dieser Scorer evaluiert ohne Referenzantwort anhand der konkreten Eingabefelder seines Schemas. Diese Felder sind Belege für die Prüfung; sie gelten nicht automatisch als faktische Ground Truth.

Kann ich den Schwellenwert anpassen?

Der angezeigte Standardschwellenwert dieses Scorers ist 7. Wenn die Konfiguration des Evaluierungsauftrags einen Schwellenwert bereitstellt, prüfen Sie ihn vor dem Speichern anhand der nativen Skala des Scorers. Die gespeicherte Bestanden-Entscheidung verwendet diese scorerspezifische Konfiguration.

Kurzinfo

KategorieVoreingenommenheit und Fairness
EvaluierungstypLLM-as-Judge
Erwartete Ausgabe erforderlichNein
Standardschwellenwert7/10

Möchten Sie CulturalSensitivityScorer ausprobieren?

Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.

Weitere Scorer entdecken

Entdecken Sie 112 veröffentlichte Scorer in 15 Kategorien: 82 Premium-, 30 kostenlose, 76 modellgestützte sowie 36 dedizierte Sprach- und Audio-Scorer