OpenAI i NASK National Research Institute podpisały porozumienie dotyczące możliwej współpracy nad bezpieczeństwem AI, cyberbezpieczeństwem i badaniami technicznymi. Partnerzy chcą lepiej rozpoznawać nowe ryzyka, wykrywać podatności oraz wzmacniać zabezpieczenia coraz bardziej zaawansowanych systemów. Dla Polski oznacza to udział krajowego instytutu w międzynarodowych pracach nad metodami oceny AI.
Co obejmuje porozumienie OpenAI z NASK
Podpisany dokument tworzy ramy współpracy, ale nie przedstawia jeszcze zamkniętego programu badawczego. OpenAI i NASK zamierzają analizować zagrożenia związane z rozwojem AI, sprawdzać odporność systemów oraz szukać sposobów na ulepszanie zabezpieczeń. Komunikat nie wskazuje konkretnych modeli, które zostaną objęte badaniami.
W pracach po stronie NASK uczestniczyć ma NASK AI Safety Research Center, które pełni funkcję Polish Artificial Intelligence Safety Institute, czyli polskiego instytutu bezpieczeństwa sztucznej inteligencji. Centrum ma współpracować z OpenAI przy ocenie coraz bardziej zaawansowanych systemów oraz identyfikowaniu ich potencjalnych słabości.
OpenAI przedstawia porozumienie jako część szerszej współpracy z publicznymi instytucjami badawczymi. Firma prowadzi już działania z US Center for Advancing Standards and Innovation for Super Intelligence, znanym jako CAISSI, oraz UK AI Security Institute. Według OpenAI wcześniejsze projekty pomagały wykrywać i usuwać podatności agentów AI, rozwijać metody ochrony oraz prowadzić badania nad bezpieczeństwem najbardziej zaawansowanych systemów AI, określanych jako frontier AI.
Jakie obszary mają badać oba zespoły
Zakres współpracy nie ogranicza się do jednego rodzaju zagrożeń. Z opisu porozumienia wynika, że badacze mają łączyć analizę możliwości modeli z testowaniem zabezpieczeń oraz oceną sposobów, w jakie AI może zostać wykorzystana przeciwko użytkownikom lub systemom cyfrowym.
- ocena możliwości coraz bardziej zaawansowanych systemów AI,
- identyfikowanie podatności i innych potencjalnych słabości,
- rozwijanie zabezpieczeń przed pojawiającymi się rodzajami ryzyka,
- wykrywanie treści syntetycznych oraz badanie złośliwych i wielojęzycznych zastosowań AI.
NASK wnosi do projektu doświadczenie w badaniach stosowanych do ochrony usług publicznych i polskiego cyfrowego ekosystemu informacyjnego. Obejmuje ono między innymi rozpoznawanie materiałów wygenerowanych przez AI oraz analizę zagrożeń w różnych językach. Wielojęzyczność ma znaczenie, ponieważ metody oceny opracowane dla jednego języka nie muszą ujawniać wszystkich problemów występujących w innych warunkach.
OpenAI ma zapewnić możliwości techniczne związane z rozwijanymi systemami AI. NASK ma natomiast wnieść krajowy kontekst badawczy i doświadczenie z zagrożeniami dotyczącymi polskiej przestrzeni cyfrowej. Komunikat nie wyjaśnia, jak zostanie podzielona odpowiedzialność za poszczególne eksperymenty ani czy wyniki wszystkich testów będą publiczne.
Wspólne standardy mają ułatwić porównywanie ryzyka
Porozumienie wpisuje się w stanowisko OpenAI dotyczące międzynarodowych standardów technicznych dla frontier AI. Firma wcześniej apelowała, aby Stany Zjednoczone współpracowały w tym zakresie z innymi państwami, instytutami bezpieczeństwa AI i organizacjami zajmującymi się standaryzacją.
Wspólne podejście miałoby obejmować ocenę możliwości modeli, analizę ryzyka, testowanie zabezpieczeń oraz raportowanie incydentów. Stosowanie porównywalnych metod może ułatwić instytucjom z różnych państw zestawianie wyników i reagowanie na zagrożenia, które nie zatrzymują się na granicach jednego kraju.
OpenAI wskazuje zarazem, że globalne standardy wymagają udziału partnerów krajowych. Bez takiego zaplecza zasady testowania mogą nie uwzględniać warunków, w których systemy są faktycznie używane. W przypadku NASK chodzi przede wszystkim o doświadczenie związane z bezpieczeństwem usług publicznych oraz ochroną polskiego obiegu informacji cyfrowej.
Współpraca ma zaplecze w działaniach CERT Polska
Nowe porozumienie rozwija wcześniejsze kontakty OpenAI z polskimi specjalistami od cyberbezpieczeństwa. W lipcu CERT Polska, działający w strukturach NASK, otrzymał przez program Daybreak dostęp do modeli OpenAI zdolnych do wykonywania zadań z obszaru cyberbezpieczeństwa.
Zespół wykorzystał te modele podczas analizy MikroTik RouterOS. Badacze odkryli sześć podatności. Część błędów można było połączyć w taki sposób, aby przejąć kontrolę nad urządzeniem bez uwierzytelnienia. Producent udostępnił poprawki, a CERT Polska potwierdził, że blokowały one zaobserwowane ataki.
Opis tego przypadku pokazuje praktyczny kierunek dotychczasowej współpracy, w którym model wspiera specjalistów podczas wyszukiwania błędów w oprogramowaniu. Źródło nie podaje jednak wersji RouterOS objętych analizą, technicznych opisów wszystkich podatności ani szczegółów dostępu CERT Polska do modeli w ramach Daybreak.
Co porozumienie oznacza dla polskich firm
Dla polskich zespołów IT i osób odpowiedzialnych za wdrożenia AI najważniejsze jest włączenie krajowego kontekstu do badań nad oceną modeli. Dotyczy to zwłaszcza zagrożeń językowych, treści syntetycznych oraz zastosowania AI w cyberbezpieczeństwie. Efekty mogą wpłynąć na przyszłe metody testowania systemów, ale komunikat nie zapowiada obecnie nowej usługi dla przedsiębiorstw.
Porozumienie nie wprowadza też nowych obowiązków dla użytkowników modeli OpenAI ani nie zmienia zasad dostępu do produktów firmy. Nie podano harmonogramu badań, budżetu, listy planowanych testów, mierników skuteczności ani terminów publikacji rezultatów. Nie wiadomo również, czy dostęp zapewniony CERT Polska zostanie rozszerzony na inne podmioty.
Na obecnym etapie jest to więc deklaracja współpracy badawczej, a nie gotowy standard lub rozwiązanie wdrożeniowe. Znaczenie porozumienia będzie można dokładniej ocenić po przedstawieniu metod badań, wyników testów i konkretnych zabezpieczeń opracowanych przez oba zespoły.
