Noveum.ai
Agent-ScorerLLM-as-Judge

AgentRoleAdherenceScorer

Bewertet, ob die Tool-Aufrufe und Antworten des Agenten seiner zugewiesenen Rolle und Aufgabe entsprechen.

Zurück zu den ScorernDokumentation ansehen

Übersicht

Bewertet, ob die Tool-Aufrufe und Antworten des Agenten seiner zugewiesenen Rolle und Aufgabe entsprechen.

agent

Anwendungsfälle

  • Evaluierung autonomer KI-Agenten

Funktionsweise

Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.

Eingabeschema

ParameterTypErforderlichBeschreibung

Ausgabeschema

FeldTypBeschreibung
scoreany-
passedany-
reasoningany-
metadataany-

Score-Interpretation

9-10AusgezeichnetDie Antwort erfüllt alle Evaluierungskriterien vollständig
7-8GutDie Antwort erfüllt die meisten Kriterien mit geringfügigen Mängeln
5-6AusreichendDie Antwort erfüllt die Kriterien teilweise und muss verbessert werden
3-4SchwachDie Antwort weist erhebliche Mängel auf
0-2Nicht bestandenDie Antwort erfüllt die grundlegenden Kriterien nicht

Verwandte Scorer

Agent

ContextRelevancyScorer

Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält u...

Agent

ConversationCoherenceScorer

Bewertet den logischen Ablauf und die Kohärenz der Antworten des Agenten während des gesamten Gesprä...

Agent

GoalAchievementScorer

Misst, inwieweit der Agent die definierten Ziele erfolgreich erreicht. Analysiert den vollständigen ...

Agent

ParameterCorrectnessScorer

Bewertet die Genauigkeit und Angemessenheit der an Tools übermittelten Parameter. Überprüft, ob die ...

Häufig gestellte Fragen

Wann sollte ich diesen Scorer verwenden?

Verwenden Sie AgentRoleAdherenceScorer, wenn Sie die Aspekte agent Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für evaluierung autonomer ki-agenten.

Warum benötigt dieser Scorer keine erwartete Ausgabe?

Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.

Kann ich den Schwellenwert anpassen?

Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.

Kurzinfo

KategorieAgent
EvaluierungstypLLM-as-Judge
Erwartete Ausgabe erforderlichNein
Standardschwellenwert7/10

Möchten Sie AgentRoleAdherenceScorer ausprobieren?

Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.

Kostenlos testenDokumentation ansehen

Weitere Scorer entdecken

Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen

Alle Scorer ansehenVertrieb kontaktieren