ContextFaithfulnessScorerPP
Erweiterte Faithfulness-Prüfung mit detaillierter Analyse einzelner Behauptungen. Extrahiert zunächst sachliche Behauptungen aus der Antwort und prüft anschließend jede davon anhand des Kontexts. Besonders geeignet zur Erkennung partieller Halluzinationen.
Übersicht
Erweiterte Faithfulness-Prüfung mit detaillierter Analyse einzelner Behauptungen. Extrahiert zunächst sachliche Behauptungen aus der Antwort und prüft anschließend jede davon anhand des Kontexts. Besonders geeignet zur Erkennung partieller Halluzinationen.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
- Halluzinationserkennung in generierten Inhalten
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | Answer containing claims to verify |
| input_text | str | Nein | Original question |
| context | list[str] | str | Ja | Context for claim verification |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Faithfulness score (0-10) |
| passed | bool | True if faithful |
| reasoning | str | Verification analysis |
| metadata.verified_claims | int | Number of verified claims |
| metadata.total_claims | int | Total claims extracted |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ClaimVerificationScorer
Extrahiert einzelne sachliche Behauptungen aus dem Ausgabetext und prüft jede davon anhand des Konte...
MehrfachkontextContextGroundednessScorer
Bewertet, wie gut eine Antwort durch den gegebenen Kontext gestützt ist. Prüft, ob Behauptungen auf ...
MehrfachkontextConflictResolutionScorer
Bewertet, wie gut eine Antwort widersprüchliche Informationen über mehrere Kontextabschnitte hinweg ...
MehrfachkontextContextConsistencyScorer
Bewertet die Konsistenz einer Antwort über mehrere Kontextabschnitte hinweg. Identifiziert Fälle, in...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ContextFaithfulnessScorerPP, wenn Sie die Aspekte multi-context and rag Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie ContextFaithfulnessScorerPP ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen