ContextPrioritizationScorer
Bewertet, wie gut eine Antwort mehrere Kontextabschnitte angemessen gewichtet und priorisiert. Bewertet, ob die Antwort den relevantesten Kontext korrekt betont.
Übersicht
Bewertet, wie gut eine Antwort mehrere Kontextabschnitte angemessen gewichtet und priorisiert. Bewertet, ob die Antwort den relevantesten Kontext korrekt betont.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | Answer to evaluate |
| input_text | str | Ja | Original question |
| context | list[str] | Ja | Multiple context chunks |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Prioritization score (0-10) |
| passed | bool | True if prioritization is correct |
| reasoning | str | Prioritization analysis |
| metadata.chunk_relevance | dict | Relevance per chunk |
| metadata.weighting_issues | list | Weighting problems |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ConflictResolutionScorer
Bewertet, wie gut eine Antwort widersprüchliche Informationen über mehrere Kontextabschnitte hinweg ...
MehrfachkontextContextConsistencyScorer
Bewertet die Konsistenz einer Antwort über mehrere Kontextabschnitte hinweg. Identifiziert Fälle, in...
MehrfachkontextContextFaithfulnessScorerPP
Erweiterte Faithfulness-Prüfung mit detaillierter Analyse einzelner Behauptungen. Extrahiert zunächs...
MehrfachkontextContextGroundednessScorer
Bewertet, wie gut eine Antwort durch den gegebenen Kontext gestützt ist. Prüft, ob Behauptungen auf ...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ContextPrioritizationScorer, wenn Sie die Aspekte multi-context and rag Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie ContextPrioritizationScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen