KnowledgeRetentionScorer
Bewertet, wie gut eine KI Informationen über Gesprächsphasen hinweg speichert und nutzt. Bewertet, ob das Modell sich die zuvor im Gespräch geteilten Informationen merkt und korrekt anwendet, wodurch Widersprüche vermieden und Konsistenz aufrechterhalten werden.
Übersicht
Bewertet, wie gut eine KI Informationen über Gesprächsphasen hinweg speichert und nutzt. Bewertet, ob das Modell sich die zuvor im Gespräch geteilten Informationen merkt und korrekt anwendet, wodurch Widersprüche vermieden und Konsistenz aufrechterhalten werden.
Anwendungsfälle
- Qualitätsbewertung konversationeller KI
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | The model's response to evaluate |
| expected_output | str | Nein | Expected response for comparison |
| context.conversation | Conversation | Ja | Conversation object with turns history |
| context.conversation.turns | list[ConversationTurn] | Ja | List of conversation turns with speaker and message |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Knowledge retention score (0-10) |
| passed | bool | True if retention is adequate |
| reasoning | str | Analysis of knowledge retention |
| metadata | dict | Retention metrics |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
ConversationRelevancyScorer
Bewertet, wie relevant jede Antwort für den aktuellen Gesprächskontext und die Benutzeranfrage ist. ...
KonversationConversationalMetricsScorer
Ein zusammengesetzter Scorer, der mehrere konversationelle Bewertungsmetriken zu einer einzigen umfa...
KonversationConversationalRoleAdherenceScorer
Misst, wie gut eine KI ihre zugewiesene Rolle oder Persona während eines Gesprächs erfüllt. Bewertet...
KonversationRoleAdherenceScorer
Bewertet, wie gut der Agent seine definierte Rolle und Persönlichkeit während des gesamten Gesprächs...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie KnowledgeRetentionScorer, wenn Sie die Aspekte conversational and memory Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für qualitätsbewertung konversationeller ki.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie KnowledgeRetentionScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen