Noveum.ai
Agent-ScorerLLM-as-Judge

GoalAchievementScorer

Misst, inwieweit der Agent die definierten Ziele erfolgreich erreicht. Analysiert den vollständigen Agenten-Trace, um festzustellen, ob und wie effektiv das ursprüngliche Ziel erfüllt wurde.

Übersicht

Misst, inwieweit der Agent die definierten Ziele erfolgreich erreicht. Analysiert den vollständigen Agenten-Trace, um festzustellen, ob und wie effektiv das ursprüngliche Ziel erfüllt wurde.

agentworkflowllm-judgetrace-evaluationcompletionsuccess

Anwendungsfälle

  • Evaluierung autonomer KI-Agenten

Funktionsweise

Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.

Eingabeschema

ParameterTypErforderlichBeschreibung
agent_data.tracelist[dict] | strJaComplete agent interaction history
agent_data.agent_exitboolJaWhether the agent has completed its task (must be True)

Ausgabeschema

FeldTypBeschreibung
scorefloatScore (0-10 scale)
passedboolTrue if score meets threshold
reasoningstrDetailed evaluation explanation
metadata.original_taskstrThe extracted original goal

Score-Interpretation

Standardschwellenwert: 7/10

9-10AusgezeichnetDie Antwort erfüllt alle Evaluierungskriterien vollständig
7-8GutDie Antwort erfüllt die meisten Kriterien mit geringfügigen Mängeln
5-6AusreichendDie Antwort erfüllt die Kriterien teilweise und muss verbessert werden
3-4SchwachDie Antwort weist erhebliche Mängel auf
0-2Nicht bestandenDie Antwort erfüllt die grundlegenden Kriterien nicht

Häufig gestellte Fragen

Wann sollte ich diesen Scorer verwenden?

Verwenden Sie GoalAchievementScorer, wenn Sie die Aspekte agent and workflow Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für evaluierung autonomer ki-agenten.

Warum benötigt dieser Scorer keine erwartete Ausgabe?

Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.

Kann ich den Schwellenwert anpassen?

Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.

Kurzinfo

KategorieAgent
EvaluierungstypLLM-as-Judge
Erwartete Ausgabe erforderlichNein
Standardschwellenwert7/10

Möchten Sie GoalAchievementScorer ausprobieren?

Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.

Weitere Scorer entdecken

Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen