HallucinationDetectionScorer
Entdeckt Halluzinationen und faktische Unstimmigkeiten in generierten Antworten, indem es mit Quelldokumenten und Wissensdatenbanken vergleicht und unbegründete oder widersprüchliche Behauptungen markiert.
Übersicht
Entdeckt Halluzinationen und faktische Unstimmigkeiten in generierten Antworten, indem es mit Quelldokumenten und Wissensdatenbanken vergleicht und unbegründete oder widersprüchliche Behauptungen markiert.
Anwendungsfälle
- RAG-basierte Frage-Antwort-Systeme
- Monitoring von Sicherheit und Compliance
- Halluzinationserkennung in generierten Inhalten
Funktionsweise
Dieser Scorer evaluiert Antworten mit LLM-as-Judge-Technologie. Ein großes Sprachmodell erhält konkrete Evaluierungskriterien und die zu bewertenden Inhalte. Anschließend wird sein Urteil analysiert, um einen Score und eine ausführliche Begründung zu erzeugen.
Eingabeschema
| Parameter | Typ | Erforderlich | Beschreibung |
|---|---|---|---|
| output_text | str | Ja | Answer to check for hallucinations |
| input_text | str | Nein | Original question |
| context | dict | str | list | Ja | Context to verify against |
Ausgabeschema
| Feld | Typ | Beschreibung |
|---|---|---|
| score | float | Non-hallucination score (0-10, 10=no hallucination) |
| passed | bool | True if no hallucinations |
| reasoning | str | Hallucination analysis |
| metadata.hallucination_types | list | Types of hallucinations found |
| metadata.specific_examples | list | Specific hallucination examples |
Score-Interpretation
Standardschwellenwert: 7/10
Verwandte Scorer
FactualAccuracyScorer
Bewertet die sachliche Genauigkeit des Ausgabetextes anhand des bereitgestellten Kontexts. Prüft, ob...
RAGFaithfulnessScorer
Misst, wie treu die generierte Antwort zum gegebenen Kontext ist. Kritische RAG-Metrik, die bewertet...
HalluzinationClaimVerificationScorer
Extrahiert einzelne sachliche Behauptungen aus dem Ausgabetext und prüft jede davon anhand des Konte...
MehrfachkontextContextGroundednessScorer
Bewertet, wie gut eine Antwort durch den gegebenen Kontext gestützt ist. Prüft, ob Behauptungen auf ...
Häufig gestellte Fragen
Wann sollte ich diesen Scorer verwenden?
Verwenden Sie HallucinationDetectionScorer, wenn Sie die Aspekte hallucination and rag Ihrer KI-Ausgaben evaluieren möchten. Der Scorer eignet sich besonders für rag-basierte frage-antwort-systeme.
Warum benötigt dieser Scorer keine erwartete Ausgabe?
Dieser Scorer evaluiert ohne Referenzantwort anhand der konkreten Eingabefelder seines Schemas. Diese Felder sind Belege für die Prüfung; sie gelten nicht automatisch als faktische Ground Truth.
Kann ich den Schwellenwert anpassen?
Der angezeigte Standardschwellenwert dieses Scorers ist 7. Wenn die Konfiguration des Evaluierungsauftrags einen Schwellenwert bereitstellt, prüfen Sie ihn vor dem Speichern anhand der nativen Skala des Scorers. Die gespeicherte Bestanden-Entscheidung verwendet diese scorerspezifische Konfiguration.
Kurzinfo
Möchten Sie HallucinationDetectionScorer ausprobieren?
Starten Sie die Evaluierung Ihrer KI-Agenten mit der umfassenden Scorer-Bibliothek von Noveum.ai.
Weitere Scorer entdecken
Entdecken Sie 112 veröffentlichte Scorer in 15 Kategorien: 82 Premium-, 30 kostenlose, 76 modellgestützte sowie 36 dedizierte Sprach- und Audio-Scorer