TaskProgressionScorer
Misst, wie effektiv der Agent bei der Erfüllung seiner zugewiesenen Aufgabe voranschreitet. Bewertet die logische Schrittreihenfolge, die Effizienz der durchgeführten Maßnahmen und ob der Agent einen bedeutenden Fortschritt in Richtung des Ziels macht.
Übersicht
Misst, wie effektiv der Agent bei der Erfüllung seiner zugewiesenen Aufgabe voranschreitet. Bewertet die logische Schrittreihenfolge, die Effizienz der durchgeführten Maßnahmen und ob der Agent einen bedeutenden Fortschritt in Richtung des Ziels macht.
Anwendungsfälle
- Evaluierung autonomer KI-Agenten
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| agent_data.agent_task | str | Ja | The task assigned to the agent |
| agent_data.agent_role | str | Ja | The role of the agent |
| agent_data.system_prompt | str | Ja | The system prompt given to the agent |
| agent_data.agent_response | str | Ja | The response from the agent |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Score (0-10 scale) |
| passed | bool | True if score meets threshold |
| reasoning | str | Detailed evaluation explanation |
| metadata.original_task | str | The extracted original task |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
GoalAchievementScorer
Misst, inwieweit der Agent die definierten Ziele erfolgreich erreicht. Analysiert den vollständigen ...
AgentContextRelevancyScorer
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält u...
AgentConversationCoherenceScorer
Bewertet den logischen Ablauf und die Kohärenz der Antworten des Agenten während des gesamten Gesprä...
AgentParameterCorrectnessScorer
Bewertet die Genauigkeit und Angemessenheit der an Tools übermittelten Parameter. Überprüft, ob die ...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie TaskProgressionScorer, wenn Sie die Aspekte agent and workflow Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für evaluierung autonomer ki-agenten.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie TaskProgressionScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen