LoRA

LoRA to metoda dostrajania modelu, w której główne wagi pozostają zamrożone, a trening obejmuje małe dodatkowe macierze, czyli adaptery. Skrót oznacza Low-Rank Adaptation. Adapter zapisuje zmianę bez tworzenia pełnej kopii dostrojonych wag.

Jak działa LoRA

Dla wybranej macierzy wag LoRA opisuje korektę jako iloczyn dwóch wąskich macierzy. Ich wymiar wewnętrzny to ranga adaptera. Niższa ranga oznacza mniej trenowanych parametrów i mniejszy plik, ale ogranicza pojemność adaptacji. Wyższa daje więcej swobody, lecz podnosi koszt. Ponieważ optymalizator aktualizuje tylko adaptery, dostrajanie LLM zwykle wymaga mniej pamięci i czasu niż aktualizacja wszystkich wag.

Jeden model, wiele adapterów

Jeden model bazowy może obsługiwać osobne adaptery dla różnych zadań, działów lub wersji procesu. Podczas inferencji system ładuje właściwy adapter zamiast całego kolejnego modelu. Ułatwia to przechowywanie i wymianę adaptacji. Adapter musi jednak pasować do konkretnej wersji modelu bazowego; sam nie jest kompletnym modelem.

Przykłady różnych rang

W Strands Decider 2B zastosowano adapter rangi 16. Przy tworzeniu apex-flash-1 połączono LoRA rangi 256 z selektywnym dostrajaniem pełnych parametrów. LoRA może więc działać samodzielnie albo jako część treningu hybrydowego. Sam numer rangi nie służy do porównywania jakości różnych modeli.

LoRA czy RAG

LoRA wybierz, gdy model ma nauczyć się powtarzalnego sposobu działania: formatu odpowiedzi, klasyfikacji, stylu lub zachowania w wąskim zadaniu. Potrzebujesz dobrych przykładów treningowych i testów na danych spoza treningu. RAG lepiej pasuje do wiedzy firmowej, która często się zmienia, ma pochodzić z dokumentów lub wymaga wskazania źródła. Obie metody można łączyć: adapter ustala zachowanie, a RAG dostarcza aktualny kontekst.

Zobacz też: fine-tuning, RAG czy fine-tuning, overfitting.