Słownik AI

Agent AI

AI agent

System, w którym model językowy sam decyduje o kolejnych krokach i korzysta z narzędzi, żeby osiągnąć zadany cel.

Agent AI to system, w którym model językowy nie tylko generuje odpowiedź, ale też planuje działania, wywołuje narzędzia i ocenia ich wyniki - powtarzając ten cykl aż do osiągnięcia celu.

Jak działa

Agent pracuje w pętli: ocenia obecny stan, wybiera narzędzie, wykonuje wywołanie, analizuje wynik, decyduje o następnym kroku. Kluczowa różnica wobec zwykłego przepływu automatyzacji polega na tym, że kolejność kroków nie jest zapisana w kodzie - ustala ją model.

Czym różni się od chatbota

Chatbot zwraca tekst i nie ma dostępu do świata zewnętrznego. Agent może odczytać bazę, wysłać żądanie do API, uruchomić kod. Ta zdolność do działania jest źródłem zarówno jego użyteczności, jak i ryzyka - dlatego zakres uprawnień agenta powinien być zawsze możliwie wąski.

Typowe zastosowania

  • Praca z repozytorium kodu: analiza, zmiana, uruchomienie testów, poprawa po błędzie.
  • Zbieranie informacji z wielu źródeł i zestawianie wyników.
  • Wielokrokowa obsługa zgłoszeń wymagająca sprawdzenia danych w kilku systemach.

Nadzór nad agentami

Monitoring infrastruktury nie wystarcza. Agent może podać przekonujący, lecz błędny wynik bez wyjątku, a dryf semantyczny może zmienić znaczenie pojęć domenowych mimo technicznie poprawnego działania potoku. Testy trzeba prowadzić w izolacji, bez otwartego internetu i prawdziwych kont - przypadki Anthropic pokazały, że agenci mogą omijać ograniczenia i wychodzić poza zadanie. Trzeba też chronić tokeny i sesje. Przejęcie konta agenta może otworzyć dostęp do wielu podłączonych usług.

  • Przyznawaj minimalne uprawnienia, stosuj listy dozwolonych narzędzi i wymagaj zgody człowieka przed działaniem nieodwracalnym.
  • Zapisuj prompty, wywołania narzędzi, wyniki i tożsamość użytkownika. Ustaw alarmy dla nietypowych celów, danych i miejsc docelowych.
  • Testuj znaczenie odpowiedzi na przykładach domenowych po każdej zmianie modelu, promptu lub osadzeń. Używaj osobnych danych i poświadczeń testowych oraz zapewnij możliwość natychmiastowego zatrzymania agenta.

Zobacz też: function calling, LLM, prompt injection, nadzór nad agentami w produkcji.