Wyszukiwanie (RAG)

Co to jest

Znalezienie fragmentów najbardziej istotnych dla zadania i przekazanie ich modelowi jako źródeł.

Dlaczego to ważne

Model odpowiada na podstawie Twoich dokumentów, a nie ogólnej wiedzy z internetu, i potrafi wskazać, skąd pochodzi każde stwierdzenie.

Ryzyko bez tego

Bez wyszukiwania model zgaduje; przy słabym wyszukiwaniu z pewnością siebie cytuje niewłaściwy fragment.

Jak to działa

Zadanie zamienia się w jedno lub więcej zapytań. Wyszukiwanie hybrydowe zwraca szeroki zbiór kandydatów (powiedzmy top 40), reranker ocenia każdego kandydata względem zapytania i dalej idzie tylko kilka najlepszych. Filtry trzymają wyniki w obrębie właściwego klienta i okresu.

Typowy stack

• wyszukiwanie hybrydowe
• Cohere Rerank / cross-encodery
• przepisywanie zapytań

Pułapki i kompromisy

• Oceniaj wyszukiwanie osobno (recall@k), niezależnie od końcowej odpowiedzi.
• Rerankery dodają opóźnienie, więc ogranicz zbiór kandydatów.
• Rozszerzanie zapytań pomaga przy ogólnikowych pytaniach i szkodzi przy precyzyjnych.