Few-shot prompting

Few-shot prompting to technika, w której w prompcie podaje się kilka przykładów zadania wraz z oczekiwanym wynikiem. Model uczy się z nich formatu i sposobu myślenia bez żadnego dostrajania.

Zero-shot, one-shot, few-shot

• Zero-shot: sama instrukcja, bez przykładów.
• One-shot: jeden przykład.
• Few-shot: zwykle od trzech do kilku przykładów.

Kiedy pomaga

Najbardziej przy zadaniach, w których trudno opisać słowami, o co chodzi: przy nietypowym formacie wyniku, firmowym tonie odpowiedzi albo klasyfikacji do kategorii z wewnętrznymi nazwami. Jeden dobry przykład często mówi więcej niż akapit instrukcji.

Pułapki

• Model kopiuje przykłady zbyt dosłownie, łącznie z długością i słownictwem.
• Jeśli cztery z pięciu przykładów mają tę samą etykietę, model będzie ją przyznawał za często.
• Przykłady zajmują miejsce w oknie kontekstowym i kosztują tokeny przy każdym wywołaniu.

Dobieraj przykłady różne od siebie, w tym co najmniej jeden przypadek brzegowy, i oddziel je wyraźnie od właściwego zadania.

Zobacz też: siedem technik prompt engineeringu, chain of thought.