Inżynieria kontekstu (context engineering)

Inżynieria kontekstu to projektowanie, dostarczanie i utrzymywanie całego zestawu informacji, który model widzi w oknie kontekstowym podczas pracy agenta AI. Obejmuje instrukcje, dokumentację, pamięć, wyniki narzędzi, reguły procesu i zabezpieczenia.

Inżynieria kontekstu a prompt engineering

Prompt engineering skupia się zwykle na treści jednego promptu. Inżynieria kontekstu obejmuje cały zasób wiedzy agenta i jego cykl życia. Określa, skąd pobrać informacje, które wyniki narzędzi zachować, jak używać pamięci i kiedy usunąć nieaktualne materiały. Dobry prompt nie naprawi brakującej reguły biznesowej ani przestarzałej dokumentacji.

Cykl życia kontekstu

Patrick Debois opisał Context Development Life Cycle, w którym zespół zarządza kontekstem podobnie jak kodem:

1. Generowanie - tworzenie i aktualizowanie materiałów.
2. Ocena - sprawdzanie ich jakości i skuteczności.
3. Dystrybucja - wersjonowanie, pakowanie i udostępnianie.
4. Obserwacja - analiza pracy agentów i poprawianie instrukcji.

Instrukcje można zapisywać między innymi w plikach AGENTS.md. Zespół utrzymuje wtedy wspólne źródło reguł zamiast ręcznie dopisywać je w każdej sesji.

Kontekst procesu i kontrola tokenów

W firmie agent potrzebuje też kontekstu procesowego: kolejności kroków, zależności, zakresu roli oraz czynności wymagających zatwierdzenia przez człowieka. Sam dostęp do danych nie wyjaśnia, jak firma podejmuje decyzje.

Kontekst ma ograniczoną pojemność. Warstwa wykonawcza powinna filtrować wyniki narzędzi, usuwać powtórzenia i stosować kompakcję, czyli skracać starszą historię do potrzebnego podsumowania. W testach SoL-Pi badacze ograniczyli zarejestrowany ruch tokenów o 44,7-49,0% przy wynikach zbliżonych do systemu bazowego.

Zobacz też: agent AI, Model Context Protocol.