ConversationRelevancyScorer
Bewertet, wie relevant jede Antwort für den aktuellen Gesprächskontext und die Benutzeranfrage ist. Bewertet, ob die Antworten thematisch bleiben, die eigentliche Frage des Nutzers beantworten und thematische Kohärenz mit dem laufenden Dialog aufrechterhalten.
Übersicht
Bewertet, wie relevant jede Antwort für den aktuellen Gesprächskontext und die Benutzeranfrage ist. Bewertet, ob die Antworten thematisch bleiben, die eigentliche Frage des Nutzers beantworten und thematische Kohärenz mit dem laufenden Dialog aufrechterhalten.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
- Qualitätsbewertung konversationeller KI
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | The model's response to evaluate |
| expected_output | str | Nein | Expected response for comparison |
| context.conversation | Conversation | Ja | Conversation object with turns history |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Relevancy score (0-10) |
| passed | bool | True if sufficiently relevant |
| reasoning | str | Relevancy analysis |
| metadata | dict | Relevancy details |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
RAGAnswerQualityScorer
Bewertet die Gesamtqualität der RAG-generierten Antworten. Bewertet die Übereinstimmung zwischen Fra...
KonversationConversationalMetricsScorer
Ein zusammengesetzter Scorer, der mehrere konversationelle Bewertungsmetriken zu einer einzigen umfa...
AgentContextRelevancyScorer
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält u...
KonversationKnowledgeRetentionScorer
Bewertet, wie gut eine KI Informationen über Gesprächsphasen hinweg speichert und nutzt. Bewertet, o...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ConversationRelevancyScorer, wenn Sie die Aspekte conversational and rag Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie ConversationRelevancyScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen