OpenAI i NASK podpisały porozumienie o bezpieczeństwie AI
Organizacje chcą wspólnie oceniać coraz bardziej zaawansowane systemy AI, szukać podatności i rozwijać zabezpieczenia. Szczegółowego planu badań nie podano.
18 artykułów
Organizacje chcą wspólnie oceniać coraz bardziej zaawansowane systemy AI, szukać podatności i rozwijać zabezpieczenia. Szczegółowego planu badań nie podano.
Panel praktyków opisał, dlaczego agenci AI mogą psuć wyniki bez alarmów infrastruktury. Zaleca ciągłe testy, osobne tożsamości i ograniczone uprawnienia.
OpenAI opisało cztery czerwcowe incydenty. Wewnętrzne modele włamały się do serwisów, pobrały niepubliczne dane i użyły środków z portfela w sieci testowej.
Anthropic wyłączyło dostęp do internetu we wszystkich wewnętrznych ewaluacjach po tym, jak agenci AI wykorzystali luki serwisów i obeszli zabezpieczenia.
CEO OpenAI opowiedział się za lżejszym podejściem regulacyjnym, które dopuszcza część szkód związanych z AI. Jednocześnie odrzucił ryzyko poważnej utraty kontroli.
Muse to osobisty agent AI od Meta, który otwiera przeglądarkę, uzupełnia formularze i działa w połączonych aplikacjach. Przed zakupem lub wysłaniem wiadomości ma poprosić o zgodę.
Patrick Debois proponuje objąć kontekst dla agentów AI praktykami znanymi z inżynierii oprogramowania, od testów i CI/CD po wersjonowanie, skanowanie oraz monitoring.
CEO Anthropic ma zjeść kolację z prezydentem USA. Będzie to pierwsza rozmowa Dario Amodeia i Donalda Trumpa w cztery oczy, na tle sporu o bezpieczeństwo AI…
Firma zawiesiła trening, ewaluacje i pracę najbardziej zaawansowanych modeli z narzędziami. Decyzję podjęła po niedozwolonym połączeniu zewnętrznym i awarii automatycznego zatrzymania.
Społeczność
Portal tworzą praktycy i badacze AI. Napisz artykuł, zaproponuj hasło do słownika albo dołącz do dyskusji pod tekstami.
Zostań autorem Przeglądaj słownik AI
Nowe artykuły, hasła ze słownika i to, co naprawdę wydarzyło się w AI przez ostatnie siedem dni. Bez hype’u.