AWS Strands Labs udostępniło Strands Decider 2B, otwartoźródłowy model decyzyjny z 1,9 mld parametrów. Zamiast generować tekst analizuje przekazany stan i pytania, a następnie wskazuje jedną z dozwolonych odpowiedzi lub przyznaje ocenę. Ma to znaczenie w automatyzacji procesów, w których system powinien podjąć szybką, ograniczoną decyzję, a nie tworzyć swobodną wypowiedź.
Model może działać lokalnie na procesorze, konsumenckiej karcie graficznej albo komputerze Mac z układem Apple silicon. Wagi udostępniono w Hugging Face na licencji Apache-2.0, a pakiet zawiera interfejs wiersza poleceń i serwer HTTP. W chwili publikacji żaden dostawca nie oferował Strands Decider 2B jako hostowanej usługi inferencyjnej.
Model obsługuje trzy rodzaje ograniczonych decyzji
Strands Decider 2B należy do kategorii określanej jako decision models lub modele System One. Według materiału kategoria ta zyskała wyraźniejszy kształt po premierze modelu Jev firmy TypeSafe AI, która nastąpiła miesiąc wcześniej. Główna różnica względem dużego modelu językowego polega na tym, że decider nie może wygenerować dowolnej treści. Wybiera wyłącznie spośród opcji przekazanych w żądaniu.
- choice, wybór jednej odpowiedzi z dostarczonego zbioru opcji,
- noul, oznaczenie użyte w materiale dla pytania tak lub nie, ze zwracanym prawdopodobieństwem od 0 do 1,
- score, przypisanie poziomu na uporządkowanej skali ocen.
Każdy wynik mieści się w zakresie zdefiniowanym przez użytkownika i zawiera wartość pewności. Zbiory etykiet są częścią żądania, dlatego architektura nie wprowadza stałego limitu liczby opcji. Pozwala to stosować model do różnych klasyfikacji bez przebudowy końcowej warstwy dla każdego nowego zestawu kategorii.
Zespół zaznacza jednak, że model ustępuje modelom rozumującym w zadaniach złożonych. Nie zaprojektowano go do programowania, prowadzenia rozmów ani streszczania dokumentów. Jego rolą jest szybkie rozstrzygnięcie jasno opisanego pytania, gdy dopuszczalne wyniki są znane z góry.
Jak model podejmuje decyzję w jednym przebiegu
Punktem wyjścia dla Strands Decider 2B jest Qwen3.5-2B-Base. Twórcy usunęli głowicę modelowania języka, która w typowym modelu odpowiada za przewidywanie kolejnych tokenów. Zastąpili ją niewielką głowicą wskaźnikową, pointer head, mającą około 1 mln parametrów.
Nowa głowica porównuje stan ukryty w pozycji oznaczonej jako <answer> ze stanem ukrytym ostatniego tokenu każdej dostępnej opcji. Jeden przebieg sieci wystarcza do wyznaczenia wyniku. Model nie uruchamia pętli dekodowania, w której generowałby kolejne tokeny odpowiedzi, co odróżnia go od klasycznego użycia modelu językowego.
Korpus modelu korzysta z adaptera LoRA o randze 16, a głowica działa w precyzji fp32. Opublikowany punkt kontrolny ma oznaczenie v19. Jeśli aplikacja zadaje kilka pytań dotyczących tego samego tekstu lub stanu, model odczytuje wspólny materiał tylko raz. Każde następne pytanie zwiększa obciążenie jedynie o własne tokeny.
Taka konstrukcja pasuje do procesów, w których ten sam opis zgłoszenia trzeba jednocześnie sklasyfikować, ocenić pod względem pilności i sprawdzić według kilku reguł. Materiał nie przedstawia jednak porównania kosztów takiego scenariusza z użyciem pełnego modelu językowego.
Wyniki JevBench i pomiary opóźnienia
Zespół sprawdził wersję v19 na publicznej części JevBench, zewnętrznego benchmarku dla modeli należących do tej samej kategorii co Jev. Strands Decider 2B osiągnął dokładność 0,723, prawidłowo rozwiązując 167 z 231 zadań. Dokładność dla poziomu łatwego wyniosła 1,000, dla standardowego 0,875, a dla trudnego 0,505.
Wynik Brier score wyniósł 0,342, natomiast expected calibration error, czyli oczekiwany błąd kalibracji, osiągnął 0,052. Kalibracja opisuje, na ile deklarowana przez model pewność odpowiada rzeczywistej częstości poprawnych odpowiedzi. W testach na niewidzianych wcześniej, krótkich zadaniach klasyfikacyjnych odpowiedzi z pewnością co najmniej 0,9 były poprawne w około 95 proc. przypadków.
Twórcy zalecają potwierdzenie decyzji lub przekazanie jej do dalszej obsługi, gdy pewność spada poniżej progu 0,9. Taka reguła umożliwia rozdzielenie prostych przypadków, które obsłuży decider, od trudniejszych spraw kierowanych do modelu językowego lub człowieka. Nie oznacza jednak, że próg będzie działał identycznie w każdym procesie, ponieważ opublikowany wynik dotyczy określonego zestawu krótkich klasyfikacji.
Na karcie RTX 3090 model uzyskał medianę opóźnienia 115 ms i wartość p95 równą 299 ms. Na komputerze z układem M3 Pro rozgrzany model osiągnął medianę 153 ms dla wejść krótszych niż 300 tokenów. Autor materiału zastrzega, że pomiary wykonano na różnym sprzęcie i przy użyciu różnych środowisk testowych, więc nie należy porównywać ich bezpośrednio.
W zestawieniu JevBench v1.4.2 z 25 września wersja v19 zajęła 3. miejsce wśród 33 modeli klasy 2B. Po wyłączeniu trzech modeli nieznacznie przekraczających 2 mld parametrów była pierwsza wśród 30 pozycji. Repozytorium wskazuje jednocześnie, że nowszy Mapika decider-2b v11 uzyskał 175 z 231 punktów w środowisku Strands, czyli o osiem więcej. Strands Decider 2B nie znajdował się jeszcze w nowszym zestawieniu zbiorczym v1.5.4.
Uruchomienie lokalne wymaga własnej warstwy dostępu
Pakiet instaluje się poleceniem pip install strands-decider. Instalacja udostępnia interfejs CLI oraz serwer HTTP, dzięki czemu model można podłączyć do lokalnej aplikacji lub samodzielnie utrzymywanego systemu. Wagi, kod, lista danych i procedura przygotowania zostały udostępnione na licencji Apache-2.0.
Dołączony serwer nasłuchuje na adresie 127.0.0.1 i nie ma mechanizmu uwierzytelniania. Taka konfiguracja nadaje się do pracy lokalnej, ale nie powinna być bezpośrednio wystawiana jako usługa produkcyjna. Zespół wskazuje, że organizacja wdrażająca model musi dodać własną warstwę kontroli dostępu.
Źródło nie podaje wymagań dotyczących pamięci operacyjnej ani pamięci GPU. Nie zawiera też pomiarów przepustowości przy wielu równoległych żądaniach oraz kalkulacji kosztów utrzymania. Są to parametry, które trzeba sprawdzić we własnym środowisku przed użyciem modelu w procesie produkcyjnym.
Gdzie Strands Decider 2B może wspierać automatyzację
Zespół informuje o pierwszych zastosowaniach w routingu modeli, wyborze narzędzi, sprawdzaniu argumentów wywołania, segregowaniu spraw, mechanizmach ochronnych, ewaluacji i agentach hybrydowych. W takim agencie decider obsługuje powtarzalne decyzje, natomiast model językowy przejmuje przypadki wymagające bardziej złożonego rozumowania.
Przykład w repozytorium dotyczy wywołania narzędzia pogodowego przez agenta Strands. Interwencja before_tool_call zadaje dwa pytania typu tak lub nie. Pierwsze sprawdza, czy argumenty wynikają z wypowiedzi użytkownika, a drugie ocenia, czy wywołanie narzędzia nie następuje zbyt wcześnie. Jeśli agent samodzielnie zgadnie miasto, system zamiast wykonać operację prosi użytkownika o doprecyzowanie.
Drugi przykład pokazuje routing zgłoszenia o niedziałających od trzech dni wypłatach. Model wybiera kategorię billing spośród billing, sales i retail, przypisując decyzji pewność 0,768. Wartość ta znajduje się poniżej zalecanego progu 0,9, więc według opisanej polityki taki przypadek powinien zostać potwierdzony lub przekazany dalej.
Dla firm w Polsce lokalne uruchomienie może ułatwić testowanie modelu we własnej infrastrukturze i włączenie go do istniejących przepływów bez korzystania z zewnętrznego dostawcy inferencji. Materiał nie podaje jednak wyników dla języka polskiego. Przed wdrożeniem potrzebna jest więc osobna walidacja na polskich zgłoszeniach, dokumentach i etykietach używanych w konkretnym procesie.
