AccuracyScorer
Berechnet die Genauigkeit anhand von Teilstring- oder Token-Übereinstimmungen zwischen Vorhersage und Ground Truth. Weniger streng als ExactMatchScorer und daher für Teilübereinstimmungen geeignet.
Übersicht
Berechnet die Genauigkeit anhand von Teilstring- oder Token-Übereinstimmungen zwischen Vorhersage und Ground Truth. Weniger streng als ExactMatchScorer und daher für Teilübereinstimmungen geeignet.
Anwendungsfälle
- Genauigkeits-Benchmarking und Validierung
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| prediction | str | Ja | Generated output |
| ground_truth | str | Ja | Expected output |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Partial match score (0-10) |
| passed | bool | True if above threshold |
| reasoning | str | Match analysis |
| metadata | dict | Token overlap details |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
MultiPatternAccuracyScorer
Bewertet die Vorhersagegenauigkeit anhand mehrerer akzeptabler Muster oder Antworten. Ideal für Aufg...
GenauigkeitExactMatchScorer
Bewertet, ob die Vorhersage exakt mit der Ground Truth übereinstimmt. Geeignet für Aufgaben mit eind...
GenauigkeitF1Scorer
Berechnet den F1-Score auf Token-Ebene zwischen Vorhersage und Ground Truth. Kombiniert Precision un...
NLP-MetrikenBLEUScorer
Berechnet den BLEU-Score (Bilingual Evaluation Understudy) zwischen Vorhersage und Ground Truth. Mis...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie AccuracyScorer, wenn Sie die Aspekte accuracy and rule-based Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für genauigkeits-benchmarking und validierung.
Warum benötigt dieser Scorer eine erwartete Ausgabe?
Dieser Scorer vergleicht die generierte Ausgabe mit einem bekannten erwarteten Ergebnis, um Genauigkeitsmetriken zu berechnen.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie AccuracyScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen