Krok 03 / 20 · Zbieranie · schema · metadane

Normalizacja

Jedna schema, znaczniki czasu i metadane źródła.

Dla biznesu

Co to jest

Sprowadzenie wszystkiego do jednego spójnego kształtu: te same nazwy pól, formaty dat i struktura rekordu, niezależnie od źródła.

Dlaczego to ważne

Jeden kształt oznacza jeden zestaw reguł w dalszych krokach, tańszy w budowie i łatwiejszy w audycie, a nowe źródła podłącza się bez przebudowy pipeline’u.

Ryzyko bez tego

Każdy kolejny krok obrasta wyjątkami dla poszczególnych źródeł, a błędy chowają się w różnicach.

Dla inżynierów

Jak to działa

Kanoniczna schema dokumentu (źródło, typ, znaczniki czasu w UTC, język, mówcy, tekst, pochodzenie) jest zdefiniowana raz, a każde źródło ma mapper, który ją zwraca. Informacja o pochodzeniu wiąże każdy znormalizowany rekord z jego surowym obiektem.

Typowy stack

  • TypeScript
  • Zod / JSON Schema
  • workery Lambda albo kontenerowe

Pułapki i kompromisy

  • Wersjonuj schemę: stare rekordy trzeba będzie migrować.
  • Normalizuj strefy czasowe na wejściu, nigdy później.
  • Trzymaj oryginalny tekst obok oczyszczonego na potrzeby audytu.

W tym przykładzie

Wejście
transcript.txt
fact-find.pdf → tekst
Wyjście
{ source: "meeting",
  speakers: 2,
  date: 2026-10-12 }

Fikcyjny przykład · nie system klienta

Kontakt

Masz pytania?

Umów rozmowę Napisz na hello@paxcode.it