MultiPatternAccuracyScorer
Bewertet die Vorhersagegenauigkeit anhand mehrerer akzeptabler Muster oder Antworten. Ideal für Aufgaben, bei denen mehrere richtige Antworten vorhanden sind, mit Regex-Unterstützung für flexible Musteranpassungen.
Übersicht
Bewertet die Vorhersagegenauigkeit anhand mehrerer akzeptabler Muster oder Antworten. Ideal für Aufgaben, bei denen mehrere richtige Antworten vorhanden sind, mit Regex-Unterstützung für flexible Musteranpassungen.
Anwendungsfälle
- Genauigkeits-Benchmarking und Validierung
Funktionsweise
Dieser Scorer validiert Ausgaben mithilfe einer deterministischen regelbasierten Evaluierung anhand konkreter Kriterien. Vordefinierte Regeln und Muster bewerten die Antwort und liefern konsistente, reproduzierbare Ergebnisse ohne LLM-Inferenz.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| prediction | str | Ja | Generated output |
| ground_truth | str | Ja | Primary expected output |
| context.patterns | list[str] | Nein | Additional acceptable patterns (regex supported) |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | 10.0 if any pattern matches, 0.0 otherwise |
| passed | bool | True if any pattern matched |
| reasoning | str | Pattern match details |
| metadata | dict | Which patterns matched |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
AccuracyScorer
Berechnet die Genauigkeit anhand von Teilstring- oder Token-Übereinstimmungen zwischen Vorhersage un...
GenauigkeitExactMatchScorer
Bewertet, ob die Vorhersage exakt mit der Ground Truth übereinstimmt. Geeignet für Aufgaben mit eind...
GenauigkeitF1Scorer
Berechnet den F1-Score auf Token-Ebene zwischen Vorhersage und Ground Truth. Kombiniert Precision un...
RAGSemanticSimilarityScorer
Berechnet die semantische Ähnlichkeit zwischen Anfrage und abgerufenem Kontext anhand von Satz-Embed...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie MultiPatternAccuracyScorer, wenn Sie die Aspekte accuracy and rule-based Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für genauigkeits-benchmarking und validierung.
Warum benötigt dieser Scorer eine erwartete Ausgabe?
Dieser Scorer vergleicht die generierte Ausgabe mit einem bekannten erwarteten Ergebnis, um Genauigkeitsmetriken zu berechnen.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie MultiPatternAccuracyScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen