Jak działa RAG w pięciu krokach
- Wczytanie dokumentów
PDF-y, dokumenty tekstowe, strony wiki, maile. Z każdego wyciąga się tekst.
- Podział na fragmenty
Długie dokumenty dzieli się na kawałki, na przykład akapity albo sekcje, żeby wyszukiwać konkretne miejsca, a nie całe pliki.
- Indeks znaczeniowy
Każdy fragment zamienia się na wektor, który opisuje jego znaczenie. Dzięki temu pytanie „ile mam dni urlopu” znajdzie fragment o „wymiarze urlopu wypoczynkowego”.
- Wyszukanie przy pytaniu
System znajduje kilka fragmentów najbardziej pasujących do pytania.
- Odpowiedź ze źródłami
Model dostaje pytanie razem z fragmentami i instrukcję: odpowiadaj tylko na ich podstawie i podaj źródło. Gdy fragmentów brakuje, ma powiedzieć, że nie wie.
Dlaczego AI czasem zmyśla i jak to ograniczyć
Model językowy zawsze chce odpowiedzieć. Gdy wyszukiwanie nie znajdzie właściwego fragmentu, model może złożyć wiarygodnie brzmiącą odpowiedź z ogólnej wiedzy. W firmie to groźne, bo odpowiedź wygląda na oficjalną.
- Wymagaj źródeł przy każdej odpowiedzi i pokazuj je użytkownikowi jako linki do dokumentów.
- Daj modelowi wyraźne pozwolenie na odpowiedź „nie znalazłem tego w dokumentach”.
- Ogranicz zakres: asystent od procedur kadrowych nie powinien odpowiadać na pytania o ceny.
- Loguj pytania bez odpowiedzi: to gotowa lista luk w dokumentacji.
Co najczęściej psuje jakość
| Problem | Objaw | Rozwiązanie |
|---|---|---|
| Skany bez warstwy tekstowej | System nie widzi treści dokumentu | Rozpoznawanie tekstu (OCR) przed wczytaniem |
| Kilka wersji tego samego dokumentu | Odpowiedzi według starej procedury | Jedno źródło prawdy, archiwum poza indeksem |
| Tabele i cenniki | Pomylone wiersze i kolumny | Osobne przetwarzanie tabel, czasem zamiana na tekst |
| Za duże lub za małe fragmenty | Odpowiedzi bez kontekstu albo zbyt ogólne | Dzielenie według nagłówków i sekcji, testy na pytaniach |
| Brak uprawnień | Pracownik dostaje fragment, którego nie powinien widzieć | Filtrowanie wyników według uprawnień użytkownika |
| Żargon i skróty firmowe | Wyszukiwanie nie łączy skrótu z pełną nazwą | Słownik skrótów i wyszukiwanie mieszane: znaczeniowe plus po słowach |
Uprawnienia to najczęściej pomijany temat. Jeśli dokument kadrowy trafi do wspólnego indeksu, asystent może zacytować z niego fragment komukolwiek. Uprawnienia ustala się przed wczytaniem dokumentów, nie po.
Jak sprawdzić, czy wdrożenie działa
Najprostsza i najskuteczniejsza metoda: zbierz od pracowników 20–50 prawdziwych pytań, które zadają na co dzień, i do każdego zapisz poprawną odpowiedź oraz dokument, w którym jest. Po każdej zmianie w systemie uruchom wszystkie pytania i sprawdź, ile odpowiedzi jest poprawnych i ze źródłem. Bez takiego zestawu każda ocena to tylko wrażenie.
Pojęcia z tego poradnika
- RAG
Retrieval-Augmented Generation: AI najpierw wyszukuje pasujące fragmenty dokumentów, a potem odpowiada na ich podstawie, podając źródła.
- Embedding (wektor)
Zapis znaczenia fragmentu tekstu w postaci liczb. Pozwala znaleźć fragmenty podobne znaczeniowo, nawet gdy używają innych słów.
- Halucynacja
Odpowiedź AI, która brzmi wiarygodnie, ale jest nieprawdziwa albo nie wynika z dostępnych danych.
- OCR
Rozpoznawanie tekstu na obrazach i skanach, żeby komputer mógł go przeszukiwać i przetwarzać.
Pytania i odpowiedzi
Czy RAG wymaga trenowania modelu?
Nie. Model zostaje taki, jaki jest, a wiedzę o firmie dostaje w postaci fragmentów dokumentów w chwili pytania. Dzięki temu aktualizacja wiedzy to aktualizacja dokumentów, a nie ponowne trenowanie.
Czy RAG może działać na własnym serwerze?
Tak. Indeks dokumentów, wyszukiwarka i model mogą działać w całości w firmie, bez wysyłania dokumentów na zewnątrz.
Ile dokumentów można wczytać?
Technicznie bardzo dużo. W praktyce ważniejsze jest, żeby były aktualne i uporządkowane. Lepiej zacząć od jednego działu i dobrze działającego zestawu dokumentów niż od całego dysku firmy.