Dlaczego rozwijanie i wdrażanie technologii AI na stanowiskach pracy ma sens?

Obecnie w wielu przedsiębiorstwach trwają intensywne prace nad inicjatywami związanymi ze SI, w tym generatywną sztuczną inteligencją (GSI), przy czym realizacja tych inicjatyw nie wymaga dostępu do superkomputera. W rzeczywistości wiele takich prac nad tworzeniem modeli SI (i coraz
częściej nad ich wdrażaniem, zwłaszcza na brzegu sieci) odbywa się na bardzo wydajnych stacjach roboczych. W kontekście tworzenia i wdrażania modeli SI stacje robocze mają wiele zalet. Uwalniają one zajmujących się SI naukowców lub deweloperów od konieczności konkurowania o zasoby
serwerowe, zapewniają akcelerację GPU (nawet jeśli serwerowe procesory GPU nadal nie są łatwo dostępne w centrach przetwarzania danych), są niezwykle przystępne cenowo w porównaniu z serwerami, stanowią niższy jednorazowy wydatek niż szybko kumulujące się opłaty za instancje
chmurowe oraz dają poczucie komfortu wynikające ze świadomości, że dane wrażliwe są bezpiecznie przechowywane w obiektach przedsiębiorstwa. W ten sposób uwalniają również naukowców lub deweloperów od obaw związanych z ponoszeniem kosztów podczas samego eksperymentowania
na modelach SI.

Według IDC wdrażanie rozwiązań SI na brzegu sieci postępuje szybciej niż w chmurze lub w obiektach przedsiębiorstwa. Również w tym przypadku stacje robocze odgrywają coraz ważniejszą rolę jako platformy SI, często nie wymagając nawet procesorów GPU, ale obsługując wnioskowanie SI na bazie zoptymalizowanych programowo procesorów CPU. Zastosowania SI na stacjach roboczych na brzegu sieci szybko stają się coraz liczniejsze i obejmują takie obszary, jak operacje IT, reakcje na katastrofy, radiologia, wydobycie ropy naftowej i gazu, zarządzanie gruntami, telezdrowie, zarządzanie ruchem, monitorowanie zakładów produkcyjnych i obsługa dronów.

W opracowaniu tym przeanalizowano rosnącą rolę stacji roboczych w tworzeniu i wdrażaniu modeli SI oraz w skrócie omówiono ofertę Dell w zakresie stacji roboczych do obsługi SI, zasilany przez NVIDIA RTX GPUs.