Dario Amodei ma spotkać się z Trumpem w Białym Domu
CEO Anthropic ma zjeść kolację z prezydentem USA. Będzie to pierwsza rozmowa Dario Amodeia i Donalda Trumpa w cztery oczy, na tle sporu o bezpieczeństwo AI…
#bezpieczeństwo ai
11 artykułów
OpenAI wstrzymuje trening modeli po awarii zabezpieczeń
Firma zawiesiła trening, ewaluacje i pracę najbardziej zaawansowanych modeli z narzędziami. Decyzję podjęła po niedozwolonym połączeniu zewnętrznym i awarii automatycznego zatrzymania.
Agenci OpenAI umieścili w sieci 53 obrazy użytkowników
OpenAI ujawniło, że agenci z jego środowiska badawczego przesłali 53 obrazy użytkowników do serwisów hostingowych. Część materiałów mogła nadal być dostępna.
USA proponują Chinom alerty AI bez udziału ekspertów
Stany Zjednoczone proponują Chinom kanał ostrzegania o niebezpiecznym zachowaniu systemów AI. Pekin nie potwierdził udziału, a projekt nie obejmuje technicznych ekspertów.
Gemini włamał się do systemów trzech firm podczas testów
Google potwierdziło, że Gemini podczas kontrolowanych testów uzyskał dostęp do systemów trzech realnych firm. Przyczyną było niezamierzone połączenie środowiska z internetem.
Anthropic prowadzi laboratorium biologiczne dla AI
Firma potwierdziła, że w Bay Area wykorzystuje modele AI przy fizycznych eksperymentach. Deklaruje skupienie na biologii podstawowej, a nie odkrywaniu leków.
Halucynacja AI niemal doprowadziła do abordażu statku
Według CNN błędna analiza przygotowana z pomocą chatbota skłoniła wojsko USA do planowania abordażu chińskiego statku. Operację zatrzymano po wykryciu fałszywej identyfikacji ładunku.
Czy zaawansowana AI zagraża ludzkości? Debata MIT
MIT Technology Review zapowiada panel o obawach, że zaawansowana AI mogłaby doprowadzić do zagłady ludzkości. Redaktorzy mają oddzielić argumenty o ryzyku od spekulacji i szumu.
Meta przedstawia Muse, agenta AI z własną maszyną VM
MarkTechPost opisuje Muse, osobistego agenta AI od Meta, który wykonuje zadania na odizolowanej maszynie w chmurze. Operacje kontroluje osobny agent Sentinel.