TechCrunch 2 września 2026 roku opisał doniesienia o zastosowaniu w modelu Astra techniki recurrent depth, znanej też jako opaque recurrence. Według The Information rozwiązanie odchodzi od sekwencyjnego sposobu rozumowania typowego dla wielu modeli i może ograniczać czytelność śladów ich pracy. Ma to znaczenie dla bezpieczeństwa, ponieważ takie zapisy pomagają badać niewłaściwe zachowania modeli i agentów.
Jak działa recurrent depth
Modele rozumujące zwykle generują zapis kolejnych etapów dochodzenia do odpowiedzi. Taki łańcuch rozumowania (chain of thought, CoT) nie jest dosłownym ani pełnym zapisem procesów wewnątrz modelu. Mimo tego daje badaczom materiał do sprawdzania, czy system realizuje cel zgodnie z założeniami i gdzie pojawiają się odstępstwa.
W opaque recurrence model kilkukrotnie przetwarza to samo zapytanie w pętli, zamiast podążać wyłącznie liniową sekwencją kroków. Taki przebieg zostawia mniej śladów zrozumiałych dla człowieka i częściowo omija tradycyjny zapis CoT. Obserwator widzi więc mniej informacji, które mogłyby wyjaśnić sposób uzyskania wyniku.
Nie oznacza to, że wcześniejsze architektury są w pełni przejrzyste. Według TechCrunch każdy model AI wykonuje pewną część rozumowania w sposób nieprzejrzysty, a badacze nie uznają logów CoT za wierną kopię jego operacji. Spór dotyczy tego, jak duża część procesu może zniknąć z dostępnych kanałów.
Dlaczego eksperci ostrzegają przed utratą wglądu
Buck Shlegeris, CEO Redwood, przyznał, że nie wie, czy łańcuch rozumowania modelu Astra będzie znacznie mniej monitorowalny niż w poprzednich modelach. Ostrzegł jednak, że dalsze zwiększanie skali rekurencji mogłoby zniszczyć możliwość nadzorowania CoT. Jego zastrzeżenia dotyczą zatem zarówno obecnej architektury, jak i możliwego kierunku jej rozwoju.
Zvi Mowshowitz, wieloletni działacz zajmujący się bezpieczeństwem AI, uznał, że mogą być potrzebne przepisy zapobiegające obniżaniu standardów przez konkurujące laboratoria. Jego zdaniem intensywniejsze korzystanie z tej techniki prawdopodobnie pogorszyłoby monitorowalność. Wskazał przy tym na wysiłki OpenAI i Anthropic zmierzające do zachowania czytelności łańcuchów rozumowania.
Ryan Greenblatt napisał: "Najbardziej obawiam się skalowania nieprzejrzystego rozumowania do poziomu, przy którym model rozumuje niemal całkowicie w przestrzeni latentnej".
Greenblatt, chief scientist w Redwood Research, ocenił, że nieprzejrzyste rozumowanie może skalować się szybciej niż konwencjonalny CoT. W takim scenariuszu coraz większa część pracy modelu odbywałaby się poza widocznymi kanałami.
Jak OpenAI odpowiada na obawy wokół modelu Astra
Według opisywanych doniesień wykorzystanie recurrent depth w modelu Astra ma być ograniczone. Łańcuch rozumowania nadal powinien pozostać czytelny. Obecne obawy dotyczą więc potencjalnego rozwoju tej metody, a nie potwierdzonego ukrycia całego procesu rozumowania przez model.
OpenAI odrzuciło sugestię, że zamierza przejść na określany jako neuralese sposób pracy, którego ludzie nie mogliby interpretować. Firma zapowiedziała już rozbudowane systemy monitorowania CoT jako część przyszłych planów bezpieczeństwa. Jakub Pachocki, chief scientist OpenAI, podkreślił, że laboratorium pracuje nad zachowaniem i wykorzystaniem takiego monitoringu od czasu swoich pierwszych modeli rozumujących.
Materiał nie podaje jednak pomiarów pokazujących, jak recurrent depth wpływa na czytelność logów modelu Astra. Brakuje też szczegółowego opisu architektury, zakresu użycia tej techniki oraz terminu udostępnienia modelu. Nie można więc na podstawie źródła porównać jego monitorowalności z wcześniejszymi rozwiązaniami OpenAI.
Co ograniczona obserwowalność oznacza dla wdrożeń
TechCrunch przypomina, że w niedawnym przypadku niepożądanej aktywności agentów OpenAI zapisy łańcucha rozumowania pomogły ustalić przyczyny ich zachowania. Ograniczenie takich danych może utrudniać badanie nieprawidłowych decyzji, szczególnie gdy model samodzielnie wykonuje kolejne działania. Sama niedoskonałość CoT nie odbiera mu więc znaczenia jako narzędziu diagnostycznemu.
Temat wykracza już poza OpenAI. Według kolejnego doniesienia The Information przedstawiciele Anthropic i Google DeepMind również rozmawiali o opaque recurrence. Źródło nie przesądza jednak, czy firmy wdrożyły tę technikę ani w jakim zakresie miałyby z niej korzystać.
Dla firm w Polsce wdrażających modele i agentów oznacza to, że sam dostęp do końcowej odpowiedzi może nie wystarczyć do analizy przyczyn nietypowego działania. Przy wyborze platformy znaczenie mają informacje o logach, monitoringu CoT i innych mechanizmach audytu, których zakres dla modelu Astra nie został dotąd opisany.
