RoleAdherenceScorer
Bewertet, wie gut der Agent seine definierte Rolle und Persönlichkeit während des gesamten Gesprächs einhält. Bewertet die Konsistenz im Verhalten, Ton und Entscheidungsfindung, die mit der zugewiesenen Rolle übereinstimmt. Entscheidend für Sicherheit und Persona-Compliance.
Übersicht
Bewertet, wie gut der Agent seine definierte Rolle und Persönlichkeit während des gesamten Gesprächs einhält. Bewertet die Konsistenz im Verhalten, Ton und Entscheidungsfindung, die mit der zugewiesenen Rolle übereinstimmt. Entscheidend für Sicherheit und Persona-Compliance.
Anwendungsfälle
- Evaluierung autonomer KI-Agenten
- Monitoring von Sicherheit und Compliance
- Qualitätsbewertung konversationeller KI
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| agent_data.agent_role | str | Ja | The role of the agent |
| agent_data.agent_task | str | Ja | The task assigned to the agent |
| agent_data.agent_response | str | Ja | The response from the agent |
| agent_data.tool_calls | list[ToolCall] | str | Nein | Tool calls made by the agent |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Score (0-10 scale) |
| passed | bool | True if score meets threshold |
| reasoning | str | Detailed evaluation explanation |
| metadata | dict | Scorer-specific details |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ConversationalRoleAdherenceScorer
Misst, wie gut eine KI ihre zugewiesene Rolle oder Persona während eines Gesprächs erfüllt. Bewertet...
SicherheitContentSafetyViolationScorer
Erkennt konkrete Verstöße gegen Sicherheitsrichtlinien in generierten Inhalten. Liefert detaillierte...
AgentContextRelevancyScorer
Bewertet, wie gut der Agent den relevanten Kontext während der gesamten Interaktion aufrechterhält u...
AgentTaskProgressionScorer
Misst, wie effektiv der Agent bei der Erfüllung seiner zugewiesenen Aufgabe voranschreitet. Bewertet...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie RoleAdherenceScorer, wenn Sie die Aspekte agent and conversational Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für evaluierung autonomer ki-agenten.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie RoleAdherenceScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen