Dla biznesu
Co to jest
Automatyczne kontrole tego, co wchodzi i co wychodzi: żadnych wycieków danych osobowych, nic, co łamie zasady, właściwy ton.
Dlaczego to ważne
Błędy wyłapuje system, zanim zobaczy je klient albo regulator, a reguły są spisane, zamiast zostawiać je modelowi.
Ryzyko bez tego
Jedna niezgodna z zasadami odpowiedź może kosztować więcej, niż cały system oszczędza.
Dla inżynierów
Jak to działa
Kontrole wejścia (prompt injection, dane osobowe) i wyjścia: najpierw deterministyczne reguły (zakazane sformułowania, wymagane zastrzeżenia, skan PII), potem kontrole klasyfikatorem albo LLM-judge pod kątem tonu i zasad. Niepowodzenie uruchamia retry z informacją zwrotną albo trafia do człowieka.
Typowy stack
- silnik reguł
- skaner PII
- modele klasyfikujące
- LLM-as-judge ze stałymi kryteriami oceny
Pułapki i kompromisy
- Reguły przed modelami: taniej i przewidywalnie.
- Śledź fałszywe alarmy: nadmierne blokowanie też podkopuje zaufanie.
- Traktuj znalezione dokumenty jako niezaufane dane wejściowe (prompt injection).
W tym przykładzie
Wejście
→ szkic raportu
Wyjście
wyciek PII brak polityka ok ton porady ok
Fikcyjny przykład · nie system klienta