Słownik AI

Fine-tuning (dostrajanie)

fine-tuning

Dalsze trenowanie gotowego modelu na własnych przykładach, żeby zmienić sposób, w jaki odpowiada.

Fine-tuning polega na dotrenowaniu istniejącego modelu na własnym zbiorze przykładów. Zmieniasz wagi, więc zmieniasz zachowanie modelu - nie jego wiedzę o świecie.

Do czego się nadaje

  • Wymuszenie stałego formatu odpowiedzi.
  • Utrwalenie tonu i stylu, których trudno opisać instrukcją.
  • Praca w wąskiej dziedzinie z własnym żargonem.
  • Obniżenie kosztów - dostrojony mniejszy model może dorównać większemu w jednym zadaniu.

Do czego się nie nadaje

Do przekazywania faktów, które się zmieniają. Do tego służy RAG. Zasada praktyczna: fakty → RAG, forma i styl → dostrajanie.

Zobacz też: RAG czy fine-tuning.