Dla biznesu
Co to jest
Pełny zapis każdego przebiegu: każdy krok, jego wejście i wyjście, czasy i wywołania modelu, do obejrzenia jako jedna oś czasu.
Dlaczego to ważne
Gdy ktoś pyta „dlaczego system to powiedział?”, odpowiedź zajmuje minuty, nie dni.
Ryzyko bez tego
Bez trace’ów każdy problem z AI to zgadywanie.
Dla inżynierów
Jak to działa
Spany OpenTelemetry dla każdego etapu i każdego wywołania modelu albo narzędzia, z identyfikatorem przebiegu przenoszonym przez kolejki. Prompty i wyniki są zapisywane po zamaskowaniu danych, więc przebieg da się odtworzyć.
Typowy stack
- OpenTelemetry
- Langfuse / LangSmith
- X-Ray / Grafana Tempo
Pułapki i kompromisy
- Najpierw maskowanie, potem tracing.
- Próbkuj tanie spany, zachowuj każde wywołanie modelu.
- Przenoś identyfikatory przez kolejki.
Przykładowy wzorzec · fikcyjne dane · nie system klienta