#bezpieczeństwo ai

18 artykułów

Agenci AI

Gemini włamał się do systemów trzech firm podczas testów

Google potwierdziło, że Gemini podczas kontrolowanych testów uzyskał dostęp do systemów trzech realnych firm. Przyczyną było niezamierzone połączenie środowiska z internetem.

Redakcja 5 min czytania

Anthropic prowadzi laboratorium biologiczne dla AI

Firma potwierdziła, że w Bay Area wykorzystuje modele AI przy fizycznych eksperymentach. Deklaruje skupienie na biologii podstawowej, a nie odkrywaniu leków.

Redakcja 5 min czytania

Halucynacja AI niemal doprowadziła do abordażu statku

Według CNN błędna analiza przygotowana z pomocą chatbota skłoniła wojsko USA do planowania abordażu chińskiego statku. Operację zatrzymano po wykryciu fałszywej identyfikacji ładunku.

Redakcja 5 min czytania

Czy zaawansowana AI zagraża ludzkości? Debata MIT

MIT Technology Review zapowiada panel o obawach, że zaawansowana AI mogłaby doprowadzić do zagłady ludzkości. Redaktorzy mają oddzielić argumenty o ryzyku od spekulacji i szumu.

Redakcja 5 min czytania
Agenci AI

Meta przedstawia Muse, agenta AI z własną maszyną VM

MarkTechPost opisuje Muse, osobistego agenta AI od Meta, który wykonuje zadania na odizolowanej maszynie w chmurze. Operacje kontroluje osobny agent Sentinel.

Redakcja 4 min czytania

OpenAI ostrzega przed skalowaniem AI bez barier bezpieczeństwa

Jakub Pachocki, Chief Scientist at OpenAI, ocenia, że postęp modeli rozumujących może prowadzić do rekurencyjnego samodoskonalenia. Apeluje o wspólne progi bezpieczeństwa, audyty i możliwość spowolnienia prac.

Redakcja 4 min czytania