ConversationalRoleAdherenceScorer
Misst, wie gut eine KI ihre zugewiesene Rolle oder Persona während eines Gesprächs erfüllt. Bewertet Konsistenz in Tonfall, Vokabular, Wissensgrenzen und Verhaltensmustern, die die zugewiesene Rolle definieren. Überschneidet sich mit der Sicherheit bei Persona-Compliance.
Übersicht
Misst, wie gut eine KI ihre zugewiesene Rolle oder Persona während eines Gesprächs erfüllt. Bewertet Konsistenz in Tonfall, Vokabular, Wissensgrenzen und Verhaltensmustern, die die zugewiesene Rolle definieren. Überschneidet sich mit der Sicherheit bei Persona-Compliance.
Anwendungsfälle
- Evaluierung autonomer KI-Agenten
- Monitoring von Sicherheit und Compliance
- Qualitätsbewertung konversationeller KI
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | The model's response to evaluate |
| context.system_prompt | str | Ja | The role/persona definition from system prompt |
| context.conversation | Conversation | Nein | Conversation context with history |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Role adherence score (0-10) |
| passed | bool | True if role is maintained |
| reasoning | str | Role adherence analysis |
| metadata | dict | Deviation details if any |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
RoleAdherenceScorer
Bewertet, wie gut der Agent seine definierte Rolle und Persönlichkeit während des gesamten Gesprächs...
SicherheitContentSafetyViolationScorer
Erkennt konkrete Verstöße gegen Sicherheitsrichtlinien in generierten Inhalten. Liefert detaillierte...
KonversationConversationRelevancyScorer
Bewertet, wie relevant jede Antwort für den aktuellen Gesprächskontext und die Benutzeranfrage ist. ...
KonversationConversationalMetricsScorer
Ein zusammengesetzter Scorer, der mehrere konversationelle Bewertungsmetriken zu einer einzigen umfa...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie ConversationalRoleAdherenceScorer, wenn Sie die Aspekte conversational and agent Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für evaluierung autonomer ki-agenten.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie ConversationalRoleAdherenceScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen