Centrum danych

Centrum danych to fizyczny obiekt, w którym pracują serwery przechowujące i przetwarzające dane. W zastosowaniach AI obejmuje serwery z GPU, szybką sieć, pamięć operacyjną i masową oraz systemy zasilania i chłodzenia. Zapewnia moc potrzebną do trenowania modeli i obsługi ich użytkowników.

Jak działa zaplecze AI

GPU wykonują równolegle obliczenia potrzebne modelom typu LLM. Sieć łączy serwery z pamięcią masową, chłodzenie odprowadza ciepło, a zasilanie awaryjne ogranicza przestoje. W chmurze zasoby należą do operatora, a firma korzysta z modelu zwykle przez API.

Trening a inferencja

Trening ma wyraźny początek i koniec: zajmuje zasoby na czas budowy lub dostrajania modelu. Inferencja uruchamia się przy każdym zapytaniu, więc jej obciążenie zależy od ruchu i może trwać stale.

McKinsey prognozuje, że do 2030 r. popyt związany z inferencją będzie rósł w skumulowanym rocznym tempie 35 proc., wobec 22 proc. dla treningu. Pod koniec dekady inferencja ma odpowiadać za ponad 40 proc. zapotrzebowania centrów danych.

Według materiału firmy WD po zapytaniach mogą pozostać logi, kopie, kontekst i dane bezpieczeństwa. Koszt pamięci może więc rosnąć mimo spadku bieżących obliczeń.

Co sprawdzić przed wyborem chmury

• Lokalizacja: ustal region przetwarzania danych, kopii i logów oraz możliwość migracji.
• Dostępność: sprawdź SLA, region zapasowy i sposób działania podczas awarii.
• Koszty: uwzględnij obliczenia, transfer, pamięć masową i retencję danych.

Infrastruktura krytyczna i ataki

Centra danych są elementem infrastruktury krytycznej i celem cyberataków oraz działań zbrojnych. Po uszkodzeniu obiektu Datagroup w Kijowie operator utrzymał usługi z ośrodków zapasowych. Dla firmy to argument za kopią w oddzielnej lokalizacji i planem pracy bez dostępu do chmury.

Zobacz też: modele open-weight, ROI wdrożeń AI.