AgentRoleAdherenceScorer
Bewertet, ob die Tool-Aufrufe und Antworten des Agenten seiner zugewiesenen Rolle und Aufgabe entsprechen.
Übersicht
Bewertet, ob die Tool-Aufrufe und Antworten des Agenten seiner zugewiesenen Rolle und Aufgabe entsprechen.
Anwendungsfälle
- Evaluierung autonomer KI-Agenten
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | any | - |
| passed | any | - |
| reasoning | any | - |
| metadata | any | - |
Score-Interpretation
Verwandte Scorer
ContextRelevancyScorer
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält u...
AgentConversationCoherenceScorer
Bewertet den logischen Ablauf und die Kohärenz der Antworten des Agenten während des gesamten Gesprä...
AgentGoalAchievementScorer
Misst, inwieweit der Agent die definierten Ziele erfolgreich erreicht. Analysiert den vollständigen ...
AgentParameterCorrectnessScorer
Bewertet die Genauigkeit und Angemessenheit der an Tools übermittelten Parameter. Überprüft, ob die ...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie AgentRoleAdherenceScorer, wenn Sie die Aspekte agent Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für evaluierung autonomer ki-agenten.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert ohne Referenzantwort anhand der konkreten Eingabefelder seines Schemas. Diese Felder sind Belege für die Prüfung; sie gelten nicht automatisch als faktische Ground Truth.
Kann ich den Schwellenwert anpassen?
Der angezeigte Standardschwellenwert dieses Scorers ist 7. Wenn die Konfiguration des Evaluierungsauftrags einen Schwellenwert bereitstellt, prüfen Sie ihn vor dem Speichern anhand der nativen Skala des Scorers. Die gespeicherte Bestanden-Entscheidung verwendet diese scorerspezifische Konfiguration.
Kurzinfo
Möchten Sie AgentRoleAdherenceScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 veröffentlichte Scorer in 15 Kategorien: 82 Premium-, 30 kostenlose, 76 modellgestützte sowie 36 dedizierte Sprach- und Audio-Scorer