FaithfulnessScorer
Misst, wie treu die generierte Antwort zum gegebenen Kontext ist. Kritische RAG-Metrik, die bewertet, ob die Antwort auf abgerufenen Dokumenten basiert und diese unterstützt, Halluzinationen und nicht belegten Behauptungen erkennt.
Übersicht
Misst, wie treu die generierte Antwort zum gegebenen Kontext ist. Kritische RAG-Metrik, die bewertet, ob die Antwort auf abgerufenen Dokumenten basiert und diese unterstützt, Halluzinationen und nicht belegten Behauptungen erkennt.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
- Monitoring von Sicherheit und Compliance
- Halluzinationserkennung in generierten Inhalten
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | The generated answer to verify |
| input_text | str | Nein | The original question |
| context | dict | str | list | Ja | Retrieved context/documents |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Faithfulness score (0-10) |
| passed | bool | True if faithful to context |
| reasoning | str | Claim verification details |
| metadata.claims | list | Extracted claims and verification status |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
FactualAccuracyScorer
Bewertet die sachliche Genauigkeit des Ausgabetextes anhand des bereitgestellten Kontexts. Prüft, ob...
HalluzinationHallucinationDetectionScorer
Entdeckt Halluzinationen und faktische Unstimmigkeiten in generierten Antworten, indem es mit Quelld...
MehrfachkontextContextGroundednessScorer
Bewertet, wie gut eine Antwort durch den gegebenen Kontext gestützt ist. Prüft, ob Behauptungen auf ...
RAGAnswerRelevancyScorer
Bewertet, wie relevant die generierte Antwort für die Eingabefrage ist. Bewertet, ob die Antwort dir...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie FaithfulnessScorer, wenn Sie die Aspekte rag and hallucination Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie FaithfulnessScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen