ContextRelevancyScorer
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält und nutzt. Beurteilt, ob Antworten angesichts der Aufgabe, Rolle und verfügbaren Informationen des Agenten angemessen sind. Auch nützlich für die RAG-Kontextbewertung.
Übersicht
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält und nutzt. Beurteilt, ob Antworten angesichts der Aufgabe, Rolle und verfügbaren Informationen des Agenten angemessen sind. Auch nützlich für die RAG-Kontextbewertung.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
- Evaluierung autonomer KI-Agenten
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| agent_data.agent_task | str | Ja | The task assigned to the agent |
| agent_data.agent_role | str | Ja | The role of the agent |
| agent_data.agent_response | str | Ja | The response from the agent |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Score (0-10 scale) |
| passed | bool | True if score meets threshold |
| reasoning | str | Detailed evaluation explanation |
| metadata | dict | Scorer-specific details |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ConversationRelevancyScorer
Bewertet, wie relevant jede Antwort für den aktuellen Gesprächskontext und die Benutzeranfrage ist. ...
AntwortqualitätRAGAnswerQualityScorer
Bewertet die Gesamtqualität der RAG-generierten Antworten. Bewertet die Übereinstimmung zwischen Fra...
AgentTaskProgressionScorer
Misst, wie effektiv der Agent bei der Erfüllung seiner zugewiesenen Aufgabe voranschreitet. Bewertet...
AgentConversationCoherenceScorer
Bewertet den logischen Ablauf und die Kohärenz der Antworten des Agenten während des gesamten Gesprä...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ContextRelevancyScorer, wenn Sie die Aspekte agent and rag Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert ohne Referenzantwort anhand der konkreten Eingabefelder seines Schemas. Diese Felder sind Belege für die Prüfung; sie gelten nicht automatisch als faktische Ground Truth.
Kann ich den Schwellenwert anpassen?
Der angezeigte Standardschwellenwert dieses Scorers ist 7. Wenn die Konfiguration des Evaluierungsauftrags einen Schwellenwert bereitstellt, prüfen Sie ihn vor dem Speichern anhand der nativen Skala des Scorers. Die gespeicherte Bestanden-Entscheidung verwendet diese scorerspezifische Konfiguration.
Kurzinfo
Möchten Sie ContextRelevancyScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 veröffentlichte Scorer in 15 Kategorien: 82 Premium-, 30 kostenlose, 76 modellgestützte sowie 36 dedizierte Sprach- und Audio-Scorer