Słownik AI
RAG
Retrieval-Augmented Generation retrieval-augmented generation
Technika, w której system wyszukuje pasujące fragmenty dokumentów i dokłada je do zapytania, zamiast polegać na pamięci modelu.
RAG to podejście łączące wyszukiwanie z generowaniem. Przed odpowiedzią system znajduje w Twoich dokumentach fragmenty pasujące do pytania i przekazuje je modelowi wraz z poleceniem, aby odpowiadał wyłącznie na ich podstawie.
Cztery kroki
- Podział dokumentów na fragmenty i zamiana ich na embeddingi.
- Zapis w bazie wektorowej.
- Wyszukanie fragmentów najbliższych zapytaniu.
- Wygenerowanie odpowiedzi na ich podstawie, z podaniem źródeł.
Dlaczego to takie popularne
- Aktualizacja wiedzy sprowadza się do podmiany pliku.
- Model może wskazać źródło każdego twierdzenia.
- Liczba halucynacji wyraźnie spada.
- Dokumenty mogą pozostać na własnej infrastrukturze.
Co decyduje o jakości
Sposób dzielenia dokumentów - bardziej niż wybór modelu. Fragment powinien być zamkniętą myślą, z zachowanym kontekstem (tytuł dokumentu, ścieżka sekcji).
Zobacz też: RAG czy fine-tuning.
