ContextRelevancyScorer
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält und nutzt. Beurteilt, ob Antworten angesichts der Aufgabe, Rolle und verfügbaren Informationen des Agenten angemessen sind. Auch nützlich für die RAG-Kontextbewertung.
Übersicht
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält und nutzt. Beurteilt, ob Antworten angesichts der Aufgabe, Rolle und verfügbaren Informationen des Agenten angemessen sind. Auch nützlich für die RAG-Kontextbewertung.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
- Evaluierung autonomer KI-Agenten
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| agent_data.agent_task | str | Ja | The task assigned to the agent |
| agent_data.agent_role | str | Ja | The role of the agent |
| agent_data.agent_response | str | Ja | The response from the agent |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Score (0-10 scale) |
| passed | bool | True if score meets threshold |
| reasoning | str | Detailed evaluation explanation |
| metadata | dict | Scorer-specific details |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ConversationRelevancyScorer
Bewertet, wie relevant jede Antwort für den aktuellen Gesprächskontext und die Benutzeranfrage ist. ...
AntwortqualitätRAGAnswerQualityScorer
Bewertet die Gesamtqualität der RAG-generierten Antworten. Bewertet die Übereinstimmung zwischen Fra...
AgentTaskProgressionScorer
Misst, wie effektiv der Agent bei der Erfüllung seiner zugewiesenen Aufgabe voranschreitet. Bewertet...
AgentConversationCoherenceScorer
Bewertet den logischen Ablauf und die Kohärenz der Antworten des Agenten während des gesamten Gesprä...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ContextRelevancyScorer, wenn Sie die Aspekte agent and rag Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie ContextRelevancyScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen