SemanticSimilarityScorer
Berechnet die semantische Ähnlichkeit zwischen Anfrage und abgerufenem Kontext anhand von Satz-Embeddings. Verwendet Kosinusähnlichkeit zwischen Embeddings und greift auf textbasierte Ähnlichkeit zurück, falls das Embedding-Modell nicht verfügbar ist.
Übersicht
Berechnet die semantische Ähnlichkeit zwischen Anfrage und abgerufenem Kontext anhand von Satz-Embeddings. Verwendet Kosinusähnlichkeit zwischen Embeddings und greift auf textbasierte Ähnlichkeit zurück, falls das Embedding-Modell nicht verfügbar ist.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
- Genauigkeits-Benchmarking und Validierung
Funktionsweise
Dieser Scorer validiert Ausgaben mithilfe einer deterministischen regelbasierten Evaluierung anhand konkreter Kriterien. Vordefinierte Regeln und Muster bewerten die Antwort und liefern konsistente, reproduzierbare Ergebnisse ohne LLM-Inferenz.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| ground_truth | str | Ja | Query for similarity comparison |
| context.chunks | list[str] | Ja | Retrieved chunks |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| similarity | float | Average semantic similarity (0-10) |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
RetrievalRankingScorer
Berechnet Ranking-Metriken für abgerufenen Kontext, darunter MRR (Mean Reciprocal Rank), NDCG und MA...
RAGRetrievalF1Scorer
F1-Score, der Precision und Recall für die kontextuelle Bewertung kombiniert. Berechnet das harmonis...
NLP-MetrikenLevenshteinSimilarityScorer
Berechnet die Ähnlichkeit anhand der Levenshtein-Distanz zwischen Vorhersage und Ground Truth. Misst...
RAGRetrievalDiversityScorer
Bewertet die Vielfalt der abgerufenen Kontextchunks unter Verwendung des Kosinusabstands zwischen de...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie SemanticSimilarityScorer, wenn Sie die Aspekte rag and accuracy Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert Qualitätsaspekte, für die kein Vergleich mit einer Referenzantwort erforderlich ist. System-Prompt und Kontext dienen als implizite Ground Truth.
Kann ich den Schwellenwert anpassen?
Ja, der Standardschwellenwert von 7 lässt sich bei der Konfiguration des Scorers anpassen.
Kurzinfo
Möchten Sie SemanticSimilarityScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 kalibrierte LLM-as-Judge-Scorer für umfassende KI-Evaluierungen