Noveum.ai
RAG-ScorerLLM-as-Judge

RAGASScorer

Implementiert den RAGAS-Rahmen (Retrieval Augmented Generation Assessment) für eine umfassende RAG-Bewertung. Kombiniert Antwortrelevanz, Treue, Kontextgenauigkeit und Metriken zur Kontexterinnerung.

Übersicht

Implementiert den RAGAS-Rahmen (Retrieval Augmented Generation Assessment) für eine umfassende RAG-Bewertung. Kombiniert Antwortrelevanz, Treue, Kontextgenauigkeit und Metriken zur Kontexterinnerung.

ragllm-judgetrace-evaluationcompositecomprehensivebenchmark

Anwendungsfälle

  • RAG-basierte Frage-Antwort-Systeme

Funktionsweise

Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.

Eingabeschema

ParameterTypErforderlichBeschreibung
output_textstrJaThe generated answer
input_textstrJaThe original query
contextdict | list[str]JaRetrieved context/chunks
expected_outputstrNeinGround truth answer

Ausgabeschema

FeldTypBeschreibung
scorefloatWeighted composite RAGAS score (0-10)
passedboolTrue if meets threshold
reasoningstrCombined analysis
metadata.answer_relevancyfloatAnswer relevancy sub-score
metadata.faithfulnessfloatFaithfulness sub-score
metadata.context_precisionfloatContext precision sub-score
metadata.context_recallfloatContext recall sub-score

Score-Interpretation

Standardschwellenwert: 7/10

9-10AusgezeichnetDie Antwort erfüllt alle Evaluierungskriterien vollständig
7-8GutDie Antwort erfüllt die meisten Kriterien mit geringfügigen Mängeln
5-6AusreichendDie Antwort erfüllt die Kriterien teilweise und muss verbessert werden
3-4SchwachDie Antwort weist erhebliche Mängel auf
0-2Nicht bestandenDie Antwort erfüllt die grundlegenden Kriterien nicht

Häufig gestellte Fragen

Wann sollte ich diesen Scorer verwenden?

Verwenden Sie RAGASScorer, wenn Sie die Aspekte rag and llm-judge Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.

Warum benötigt dieser Scorer keine erwartete Ausgabe?

Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.

Kann ich den Schwellenwert anpassen?

Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.

Kurzinfo

KategorieRAG
EvaluierungstypLLM-as-Judge
Erwartete Ausgabe erforderlichNein
Standardschwellenwert7/10

Möchten Sie RAGASScorer ausprobieren?

Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.

Weitere Scorer entdecken

Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen