ContextualPrecisionScorerPP
Berechnet die Precision abgerufener Chunks anhand numerischer Relevanzwerte. Precision = Anzahl der abgerufenen relevanten Chunks ÷ Gesamtzahl der abgerufenen Chunks. Verwendet eine LLM-basierte Relevanzbewertung.
Übersicht
Berechnet die Precision abgerufener Chunks anhand numerischer Relevanzwerte. Precision = Anzahl der abgerufenen relevanten Chunks ÷ Gesamtzahl der abgerufenen Chunks. Verwendet eine LLM-basierte Relevanzbewertung.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| input_text | str | Ja | Original query |
| context.chunks | list[str] | Ja | Retrieved chunks to evaluate |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Precision score (0-10) |
| passed | bool | True if above threshold |
| reasoning | str | Precision analysis |
| metadata.relevant_chunks | int | Relevant chunk count |
| metadata.total_chunks | int | Total chunks |
| metadata.chunk_results | list | Per-chunk relevance |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ContextualRecallScorerPP
Berechnet den Recall abgerufener Chunks anhand einer Schätzung aller verfügbaren relevanten Chunks. ...
RAGRetrievalF1Scorer
F1-Score, der Precision und Recall für die kontextuelle Bewertung kombiniert. Berechnet das harmonis...
RAGContextualPrecisionScorer
Misst die Precision des abgerufenen Kontexts anhand des Anteils der Chunks, die tatsächlich zur Bean...
RAGContextualRecallScorer
Misst den Recall des abgerufenen Kontexts anhand des Anteils erfolgreich abgerufener relevanter Info...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ContextualPrecisionScorerPP, wenn Sie die Aspekte rag and llm-judge Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie ContextualPrecisionScorerPP ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen