Słownik AI
Temperatura
temperature
Parametr sterujący losowością wyboru kolejnych tokenów - im wyższy, tym bardziej nieprzewidywalna odpowiedź.
Temperatura steruje tym, jak model wybiera kolejny token spośród możliwych. Przy niskiej wartości niemal zawsze wybiera najbardziej prawdopodobny; przy wysokiej częściej sięga po mniej oczywiste opcje.
Jak dobierać
- Blisko zera - wyciąganie danych, klasyfikacja, odpowiedzi faktograficzne, generowanie kodu.
- Wartości średnie - teksty użytkowe, streszczenia, korespondencja.
- Wysokie - burza mózgów, warianty nazw, tworzenie fikcji.
Częste nieporozumienie
Temperatura zero nie gwarantuje identycznych odpowiedzi za każdym razem. Wpływ mają także inne czynniki, m.in. sposób wykonywania obliczeń na procesorach graficznych. Powtarzalność jest wysoka, ale nie absolutna.
