Noveum.ai
Halluzination-ScorerLLM-as-Judge

FactualAccuracyScorer

Bewertet die sachliche Genauigkeit des Ausgabetextes anhand des bereitgestellten Kontexts. Prüft, ob Aussagen mit den Fakten im Kontext übereinstimmen, und erkennt Ungenauigkeiten sowie unbelegte Behauptungen.

Übersicht

Bewertet die sachliche Genauigkeit des Ausgabetextes anhand des bereitgestellten Kontexts. Prüft, ob Aussagen mit den Fakten im Kontext übereinstimmen, und erkennt Ungenauigkeiten sowie unbelegte Behauptungen.

hallucinationragsafetyllm-judgetrace-evaluationfactualtrust

Anwendungsfälle

  • RAG-basierte Frage-Antwort-Systeme
  • Monitoring von Sicherheit und Compliance
  • Halluzinationserkennung in generierten Inhalten

Funktionsweise

Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.

Eingabeschema

ParameterTypErforderlichBeschreibung
output_textstrJaAnswer to verify for factual accuracy
input_textstrNeinOriginal question
contextdict | str | listJaSource of truth for verification

Ausgabeschema

FeldTypBeschreibung
scorefloatFactual accuracy score (0-10)
passedboolTrue if factually accurate
reasoningstrAccuracy analysis
metadata.issueslistFactual issues found
metadata.confidencefloatVerification confidence

Score-Interpretation

Standardschwellenwert: 7/10

9-10AusgezeichnetDie Antwort erfüllt alle Evaluierungskriterien vollständig
7-8GutDie Antwort erfüllt die meisten Kriterien mit geringfügigen Mängeln
5-6AusreichendDie Antwort erfüllt die Kriterien teilweise und muss verbessert werden
3-4SchwachDie Antwort weist erhebliche Mängel auf
0-2Nicht bestandenDie Antwort erfüllt die grundlegenden Kriterien nicht

Häufig gestellte Fragen

Wann sollte ich diesen Scorer verwenden?

Verwenden Sie FactualAccuracyScorer, wenn Sie die Aspekte hallucination and rag Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.

Warum benötigt dieser Scorer keine erwartete Ausgabe?

Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.

Kann ich den Schwellenwert anpassen?

Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.

Kurzinfo

KategorieHalluzination
EvaluierungstypLLM-as-Judge
Erwartete Ausgabe erforderlichNein
Standardschwellenwert7/10

Möchten Sie FactualAccuracyScorer ausprobieren?

Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.

Weitere Scorer entdecken

Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen