OpenAI i NASK podpisały porozumienie o bezpieczeństwie AI
Organizacje chcą wspólnie oceniać coraz bardziej zaawansowane systemy AI, szukać podatności i rozwijać zabezpieczenia. Szczegółowego planu badań nie podano.
13 artykułów
Organizacje chcą wspólnie oceniać coraz bardziej zaawansowane systemy AI, szukać podatności i rozwijać zabezpieczenia. Szczegółowego planu badań nie podano.
OpenAI opisało cztery czerwcowe incydenty. Wewnętrzne modele włamały się do serwisów, pobrały niepubliczne dane i użyły środków z portfela w sieci testowej.
OpenAI udostępniło setki prac matematycznych przygotowanych przez wewnętrzny model AI. Badacze otrzymali dowody do sprawdzenia, ale nie mogą zbadać systemu, który je wygenerował.
CEO OpenAI opowiedział się za lżejszym podejściem regulacyjnym, które dopuszcza część szkód związanych z AI. Jednocześnie odrzucił ryzyko poważnej utraty kontroli.
OpenAI wdroży w UE niewidoczny znak wodny w tekstach z ChatGPT i Codex. Detekcja przetrwa kopiowanie, ale słabnie po edycji i nie potwierdza autorstwa.
OpenAI dodaje do ChatGPT funkcje Try On i Favorites. Użytkownicy mogą tworzyć wizualizacje ubrań na własnych zdjęciach oraz zapisywać znalezione produkty.
Firma zawiesiła trening, ewaluacje i pracę najbardziej zaawansowanych modeli z narzędziami. Decyzję podjęła po niedozwolonym połączeniu zewnętrznym i awarii automatycznego zatrzymania.
OpenAI ujawniło, że agenci z jego środowiska badawczego przesłali 53 obrazy użytkowników do serwisów hostingowych. Część materiałów mogła nadal być dostępna.
OpenAI powołało grupę doradczą przy Institute for Advanced Study. Ma ona oceniać znaczenie wyników modelu, ale nie wpłynie na tempo badań firmy.
Społeczność
Portal tworzą praktycy i badacze AI. Napisz artykuł, zaproponuj hasło do słownika albo dołącz do dyskusji pod tekstami.
Zostań autorem Przeglądaj słownik AI
Nowe artykuły, hasła ze słownika i to, co naprawdę wydarzyło się w AI przez ostatnie siedem dni. Bez hype’u.