Observability
NovaTrace erfasst jeden LLM-Aufruf, Tool-Einsatz, Retrieval-Vorgang und Agentenschritt samt Tokens, Kosten und Latenz. Ein SDK, tiefe Framework-Integrationen und eine Transportschicht, die Ihre Anwendung niemals ausbremst.
6M+
erfasste Traces pro Tag
15,000
Spans/Sek., lastgetestet
15 min
von der Installation zum ersten Trace
01 - Funktionen
LangChain, LangGraph, LiveKit, Pipecat, CrewAI, LlamaIndex, AutoGen und OpenTelemetry: echte Instrumentierung statt dünner Wrapper. Allein der LangChain-Callback deckt LLM-, Chain-, Agenten-, Tool- und Retrieval-Ereignisse ab.
Ein integriertes Register mit mehr als 40 Modellen von 11 Anbietern berechnet jeden Aufruf sofort. Eingabe-, Ausgabe- und Gesamt-Tokens sowie die Kosten werden jedem Span zugeordnet. So sind Kosten pro Trace und Kunde vom ersten Tag an abfragbar.
Konversationsthreads, Agentenregister und Workflow-Graphen machen Multi-Agenten-Systeme nachvollziehbar: wer was in welcher Reihenfolge und aus welchem Grund ausgeführt hat.
Audio- und Bildartefakte werden gemeinsam mit den Spans hochgeladen und liefern die Grundlage für Sprach- und Bild-Evals.
Gebündelt, mit Wiederholungsversuchen und Sampling, bei Fehlern geräuschlos. Tracing bringt Ihre Anwendung niemals zum Ausfall. Das ist eine Garantie, kein bloßes Ziel.
Traces, Spans, Attribute und Ereignisse lassen sich sauber auf OTel-Konzepte abbilden. Ein eigens entwickeltes Übertragungsformat ist auf LLM-Workloads zugeschnitten.
02 - Integration
Ein Initialisierungsaufruf plus die passende Integration für Ihren Stack. Unsere Engineers richten beides im Kick-off gemeinsam mit Ihnen ein.
from noveum_trace.integrations.langchain import ( NoveumTraceCallbackHandler,) handler = NoveumTraceCallbackHandler() agent.invoke( {"input": question}, config={"callbacks": [handler]},)Das wird erfasst
Python 3.9–3.13 · OpenTelemetry-orientiert · MCP-Server enthalten
03 - Technische Details
Ein spaltenbasierter Trace-Speicher, Open-Source-SDKs, ein integriertes Kostenregister und ein MCP-Server machen die Observability-Daten Ihrer Agenten konkret abfragbar.
Speicher-Engine
Ein spaltenbasiertes ClickHouse-Backend, speziell für große Trace-Mengen entwickelt. Es aggregiert schneller und senkt die Speicherkosten gegenüber Elasticsearch bei gleicher Last deutlich.
Open-Source-SDKs
Python `noveum-trace` (3.9–3.13) und TypeScript `@noveum/trace`: Instrumentierung mit Dekoratoren und Kontextmanagern, ein Initialisierungsaufruf startet das Streaming der Spans.
Modell- und Kostenregister
Ein integriertes Register umfasst mehr als 40 Modelle von 11 Anbietern: OpenAI (gpt-4o, o1, o3, gpt-5), Anthropic Claude 3/3.5/4.5, Google Gemini 1.5/2.0/2.5, Cohere, Mistral, Meta Llama, DeepSeek, xAI Grok, Perplexity, Amazon Bedrock und AI21.
Kosten je Span
Eingabe-, Ausgabe- und Gesamt-Tokens sowie berechnete Kosten werden bei der Erfassung jedem Span zugeordnet. Kosten pro Trace und Kunde sind sofort und ohne Nachbearbeitung abfragbar.
Native Integrationen
Vollwertige Instrumentierung für LangChain, LangGraph, LiveKit, Pipecat, CrewAI, LlamaIndex, AutoGen und OpenTelemetry: echte Callbacks statt dünner Wrapper.
MCP-Server
Ein aus der OpenAPI-Spezifikation generierter MCP-Server mit rund 60 Tools stellt Ihren eigenen Agenten Traces, Spans und Metriken bereit. So können sie Observability-Daten direkt im Kreislauf abfragen und verarbeiten.
Der Kreislauf
Alle nachgelagerten Schritte, von Evals und Simulationen bis zu Guardrails und Korrekturen, basieren auf den von NovaTrace erfassten Traces. Deshalb steht NovaTrace an erster Stelle.
Nächster Schritt
Produktive KI-Agenten, denen Ihre Kunden vertrauen können.
Im Produktivbetrieb bewährt bei Enterprise- und wachstumsstarken Teams