3 listopada 2026 r. firma Anthropic opisała prace nad FlashProve, otwartym systemem, który ma kryptograficznie potwierdzać, jaki model AI wygenerował konkretny wynik. Rozwiązanie ma znaczenie tam, gdzie użytkownik lub zleceniodawca musi sprawdzić, czy dostawca rzeczywiście użył deklarowanego modelu, a nie podmienił go na inny.
FlashProve ma wykazać, który model wygenerował wynik
Badacze określają podstawę FlashProve jako weryfikowalne wnioskowanie, czyli provable inference. System ma tworzyć dowód kryptograficzny stanowiący matematyczne potwierdzenie, że dany wynik pochodzi z określonego modelu. Użytkownik mógłby dzięki temu zweryfikować tożsamość systemu, z którym faktycznie pracował.
Anthropic porównuje ten mechanizm do kryptograficznych podpisów wiadomości email. Podpis pozwala odbiorcy potwierdzić, że wiadomość rzeczywiście wysłał wskazany nadawca. FlashProve ma stosować podobną zasadę do wyników generowanych przez modele AI, choć podstawą weryfikacji byłby odcisk konkretnego modelu.
Mechanizm ma być odporny na próby przedstawienia jednego modelu jako innego. Według opisu ochrona powinna działać także wtedy, gdy podmiany dokonuje laboratorium, które zbudowało model i obsługuje jego działanie. Zakres projektu dotyczy pochodzenia odpowiedzi, a nie oceny jej prawdziwości lub merytorycznej jakości.
Publiczny odcisk modelu nie ma ujawniać jego wag
Warunkiem działania FlashProve jest opublikowanie przez laboratorium specjalnego odcisku każdego udostępnianego modelu. Odcisk ma później służyć jako punkt odniesienia podczas sprawdzania konkretnych wyników. Dopasowanie ma być potwierdzane metodami kryptograficznymi, a nie wyłącznie na podstawie deklaracji operatora.
- Laboratorium publikuje odcisk udostępnianego modelu AI.
- Konkretny wynik można później zestawić z właściwym odciskiem.
- Weryfikacja kryptograficzna potwierdza deklarowane pochodzenie wyniku.
- Lekka konstrukcja ma pozwalać na przeprowadzenie sprawdzenia na urządzeniu lokalnym.
Odciski nie mają ujawniać wag modelu, czyli wewnętrznych wartości liczbowych, które określają jego zachowanie. Twórcy zamkniętych modeli, między innymi Anthropic i OpenAI, traktują wagi jako prywatny składnik swoich systemów. Według badaczy laboratoria mogłyby więc uczestniczyć we FlashProve bez udostępniania najcenniejszej części modelu.
Takie założenie ma umożliwić objęcie mechanizmem także modeli komercyjnych. Udział ich twórców pozostaje jednak konieczny, ponieważ to laboratorium musi opublikować odcisk modelu. Bez niego system nie ma opisanego w specyfikacji punktu odniesienia, z którym mógłby porównać późniejszy wynik.
System ma utrudnić podmianę modelu i fałszywe deklaracje
Jednym ze wskazanych zastosowań jest kontrola tego, czy firma AI nie zastępuje potajemnie deklarowanego modelu tańszym systemem, aby zmniejszyć swoje koszty. FlashProve miałby również utrudnić użycie droższego modelu w celu sztucznego podniesienia raportowanych wyników działania. W obu przypadkach odbiorca otrzymywałby możliwość sprawdzenia, który model rzeczywiście wygenerował rezultat.
Mechanizm mógłby też służyć do weryfikowania deklaracji składanych przez podmioty zewnętrzne. Badacze podają przykład programisty twierdzącego, że jego biblioteka została przeskanowana pod kątem luk przez zaawansowany model do cyberbezpieczeństwa. Drugi przykład dotyczy firmy zapewniającej, że jej biznesplan uzyskał akceptację odpowiedniego modelu.
W takich przypadkach sama informacja o użyciu AI nie mówi, który system wykonał zadanie. FlashProve ma dostarczać dowód odnoszący wynik do konkretnego modelu. Materiał nie opisuje natomiast mechanizmu, który potwierdzałby kompletność analizy, poprawność skanowania albo trafność decyzji podjętej na podstawie odpowiedzi modelu.
Kod jest otwarty, ale wdrożenia jeszcze nie zaplanowano
Wraz z opisem projektu badacze opublikowali szczegółową specyfikację techniczną oraz działający kod różnych elementów systemu. Materiały są dostępne na GitHubie na otwartej licencji. Pozwala to innym zespołom przeanalizować rozwiązanie, rozwijać je i proponować własne poprawki.
Anthropic zaznacza jednak, że prace nadal trwają, a udostępniony materiał przedstawia etap pośredni. Nie jest to informacja o uruchomieniu gotowej usługi ani o włączeniu FlashProve do obecnych produktów firmy. Według publikacji nie ma planu wdrożenia systemu w Anthropic ani w innym laboratorium AI.
Źródło nie podaje harmonogramu dalszych prac, kosztu stosowania mechanizmu ani listy modeli, dla których powstaną odciski. Nie przedstawia też liczbowych wyników testów wydajności, mimo że system opisano jako lekki. Dostępność kodu i specyfikacji nie oznacza więc, że FlashProve osiągnął gotowość do wykorzystania w środowisku produkcyjnym.
Co FlashProve może oznaczać dla firm w Polsce
Dla firm w Polsce taki mechanizm mógłby stać się dodatkowym narzędziem kontroli usług AI, szczególnie gdy zamówienie lub procedura wewnętrzna wskazuje konkretny model. Lokalna weryfikacja mogłaby ograniczyć konieczność przekazywania danych do kolejnego systemu wyłącznie po to, aby potwierdzić pochodzenie wyniku.
Praktyczna użyteczność FlashProve będzie zależała od zaangażowania laboratoriów publikujących odciski swoich modeli. Mechanizm nie zadziała jako niezależny rejestr tworzony bez udziału dostawców. Musi opierać się na danych udostępnionych przez podmiot, który opracował i wydał dany model.
Na obecnym etapie FlashProve pozostaje projektem badawczym z otwartym kodem, a nie dostępnym standardem produkcyjnym. Firma rozważająca jego wykorzystanie nie ma jeszcze informacji o terminie wdrożenia, obsługiwanych modelach ani wymaganiach operacyjnych pełnego systemu.
