Stacje robocze i serwery AI
Projektujemy i składamy komputery do sztucznej inteligencji: ciche stacje AI typu desktop oraz serwery GPU w obudowach rack 4U. Służą do uruchamiania lokalnych modeli językowych (LLM), budowy systemów RAG, dostrajania modeli oraz generowania obrazów i wideo. Każdą konfigurację dobieramy do modeli, liczby użytkowników i budżetu.
Do czego służy stacja AI
Lokalne modele językowe (LLM)
Uruchamianie modeli takich jak Llama, Qwen, Mistral, Gemma, DeepSeek czy polski Bielik na własnym sprzęcie, w narzędziach Ollama, llama.cpp, LM Studio lub vLLM. Model działa jako prywatny asystent do pracy z tekstem, kodem i dokumentami.
RAG i praca na dokumentach firmy
Wyszukiwanie informacji i odpowiadanie na pytania na podstawie firmowych dokumentów, umów czy dokumentacji technicznej. Dane nie opuszczają firmowej sieci, co ułatwia spełnienie wymagań RODO i umów o poufności.
Dostrajanie i trening modeli
Fine-tuning metodami LoRA i QLoRA, trening modeli wizyjnych oraz eksperymenty w PyTorch. Te zadania wymagają więcej pamięci VRAM niż samo uruchamianie modelu i korzystają z kilku kart graficznych.
Generowanie obrazów i wideo
Stable Diffusion, Flux i modele wideo w ComfyUI. Większa pamięć karty pozwala pracować w wyższej rozdzielczości i trzymać w pamięci kilka modeli jednocześnie.
Serwer modeli dla zespołu
Jeden serwer GPU udostępnia modele wielu użytkownikom przez API zgodne z OpenAI. Zespół korzysta z asystenta w przeglądarce, w edytorze kodu lub we własnych aplikacjach.
Własny sprzęt zamiast chmury
Dane zostają w firmie. Zapytania, dokumenty i kod źródłowy nie trafiają do zewnętrznych usług. Ma to znaczenie w kancelariach, biurach projektowych, placówkach medycznych, administracji i wszędzie tam, gdzie obowiązuje tajemnica zawodowa lub umowy NDA.
Przewidywalny koszt. Sprzęt kupuje się raz, a korzystanie z modeli nie jest rozliczane za tokeny ani za godziny pracy GPU. Koszt stacji rozkłada się na lata użytkowania, a przy większych zamówieniach można ją sfinansować leasingiem.
Pełna kontrola. Sam wybierasz modele i ich wersje, nie ograniczają Cię limity zapytań ani zmiany w ofercie dostawcy, a stacja działa także bez dostępu do internetu.
Stacja AI desktop czy serwer rack?
Oba rodzaje sprzętu budujemy z tych samych podzespołów. Różnią się liczbą kart graficznych, miejscem pracy i sposobem korzystania.
| Cecha | Stacja AI desktop | Serwer AI rack 4U |
|---|---|---|
| Karty graficzne | 1-2 karty GeForce RTX 5090 lub NVIDIA RTX PRO | 2-4 karty NVIDIA RTX PRO z chłodzeniem przelotowym |
| Pamięć VRAM | 32-96 GB | 96-384 GB |
| Miejsce pracy | przy biurku, cicha praca | serwerownia lub szafa rack, praca głośna |
| Dla kogo | jedna osoba lub mały zespół | wielu użytkowników jednocześnie, praca ciągła |
| Dostęp | bezpośrednio lub zdalnie | przez sieć, API dla aplikacji |
| Zasilanie | zwykłe gniazdo 230 V | przy czterech kartach zalecany osobny obwód |
Stacje AI desktop
Stacja AI w obudowie tower pracuje przy biurku i nie wymaga serwerowni. Konfiguracje z jedną kartą GeForce RTX 5090 (32 GB VRAM) sprawdzają się przy lokalnych modelach językowych rzędu 30 miliardów parametrów, generowaniu obrazów i pracy programisty z asystentem kodu.
Platforma Threadripper mieści dwie karty RTX 5090 lub kartę RTX PRO 6000 z 96 GB pamięci i pozwala rozbudować stację w kolejnych latach. Każda stacja nadaje się również do renderingu GPU i pracy w programach graficznych.
Konfiguracje wielokartowe
| Zestaw | Procesor | Karty graficzne | Pamięć / dysk | Zastosowanie |
|---|---|---|---|---|
| AI 2× RTX 5090 | Threadripper 9970X (32 rdzenie) | 2× GeForce RTX 5090 · 64 GB VRAM | 256 GB DDR5 ECC · 4 TB NVMe | modele ok. 70 mld parametrów, fine-tuning LoRA |
| AI 96 GB | Threadripper 9970X (32 rdzenie) | RTX PRO 6000 Blackwell · 96 GB VRAM | 256 GB DDR5 ECC · 4 TB NVMe | modele ponad 100 mld parametrów, długi kontekst |
Konfiguracje z kilkoma kartami wyceniamy indywidualnie. Cena zależy głównie od liczby i modelu kart graficznych, a ich dostępność i ceny często się zmieniają.
Serwery AI rack 4U
Serwer GPU w obudowie rack 4U jest przeznaczony do pracy ciągłej i obsługi wielu użytkowników. Mieści do czterech kart NVIDIA RTX PRO, procesor Threadripper PRO z ośmiokanałową pamięcią ECC oraz szybkie dyski NVMe na modele i zbiory danych.
Serwer montuje się w szafie rack lub ustawia samodzielnie w pomieszczeniu technicznym, a dostęp odbywa się przez sieć. Węzeł z jedną kartą RTX PRO jest dobrym początkiem, gdy potrzebny jest serwer modeli dla kilku osób.
| Zestaw | Procesor | Karta | Pamięć / dysk | Cena od | szczegóły |
|---|---|---|---|---|---|
| Rack 4U Prowęzeł z kartą RTX PRO | Ryzen 9 9950X | RTX PRO 4000 · 24 GB | 128 GB DDR5 · 2 TB NVMe | od22 500 zł |
Konfiguracje wielokartowe
| Zestaw | Procesor | Karty graficzne | Pamięć / dysk | Zastosowanie |
|---|---|---|---|---|
| Serwer AI 2× GPU | Threadripper PRO 9975WX (32 rdzenie) | 2× RTX PRO 6000 Blackwell · 192 GB VRAM | 256 GB DDR5 ECC · 2× 4 TB NVMe | serwer modeli dla zespołu, RAG |
| Serwer AI 4× GPU | Threadripper PRO 9985WX (64 rdzenie) | 4× RTX PRO 6000 Blackwell · 384 GB VRAM | 512 GB DDR5 ECC · 2× 4 TB NVMe | największe otwarte modele, trening, wielu użytkowników |
Konfiguracje z kilkoma kartami wyceniamy indywidualnie. Cena zależy głównie od liczby i modelu kart graficznych, a ich dostępność i ceny często się zmieniają.
Wszystkie serwery rack 4U →Jak dobrać komputer do AI
Pamięć VRAM decyduje o wielkości modelu
Model działa najszybciej, gdy w całości mieści się w pamięci karty graficznej. W popularnej kwantyzacji 4-bitowej model potrzebuje około 0,6-0,7 GB pamięci na każdy miliard parametrów, a do tego dochodzi miejsce na kontekst rozmowy.
| Pamięć VRAM | Przykładowe karty | Co można uruchomić |
|---|---|---|
| 16 GB | GeForce RTX 5070 Ti, RTX 5080 | modele do ok. 14 mld parametrów, Stable Diffusion, Flux w kwantyzacji |
| 24 GB | RTX PRO 4000 Blackwell | modele ok. 20-30 mld parametrów z krótszym kontekstem |
| 32 GB | GeForce RTX 5090 | modele ok. 30 mld parametrów z długim kontekstem, Flux i modele wideo |
| 48 GB | RTX PRO 5000 Blackwell | modele ok. 70 mld parametrów w kwantyzacji 4-bitowej, krótszy kontekst |
| 64 GB | 2× GeForce RTX 5090 | modele ok. 70 mld parametrów z zapasem na kontekst |
| 96 GB | RTX PRO 6000 Blackwell | modele ponad 100 mld parametrów w kwantyzacji, dostrajanie mniejszych modeli |
| 192-384 GB | 2-4× RTX PRO 6000 Blackwell | największe otwarte modele, wielu użytkowników jednocześnie, trening |
GeForce RTX 5090 czy NVIDIA RTX PRO
GeForce RTX 5090 oferuje najwięcej wydajności w przeliczeniu na cenę i jest najlepszym wyborem do stacji z jedną lub dwiema kartami. Karty NVIDIA RTX PRO mają więcej pamięci (do 96 GB na kartę), pamięć z korekcją błędów ECC i konstrukcję przystosowaną do pracy kilku kart obok siebie. Wersje Max-Q pobierają 300 W i są przeznaczone do zestawów z maksymalnie czterema kartami, dlatego stosujemy je w serwerach.
Kilka kart graficznych w jednym komputerze
Narzędzia takie jak llama.cpp, Ollama i vLLM potrafią rozdzielić model na kilka kart, dzięki czemu ich pamięć można wykorzystać łącznie. Wymaga to płyty głównej z odpowiednią liczbą pełnych złączy PCIe, dlatego zestawy wielokartowe budujemy na platformie Threadripper lub Threadripper PRO.
Procesor, pamięć RAM i dyski
Pamięci RAM powinno być co najmniej tyle, ile łącznie pamięci VRAM, a przy treningu i przygotowaniu danych odpowiednio więcej. Modele i zbiory danych zajmują dziesiątki i setki gigabajtów, dlatego stosujemy szybkie dyski NVMe o pojemności 2-4 TB lub większej. Procesor odpowiada za przygotowanie danych i obsługę kilku kart.
Zasilanie, chłodzenie i hałas
Karta RTX 5090 pobiera do 575 W, więc stacja z dwiema kartami wymaga zasilacza o mocy co najmniej 1600 W i obudowy z bardzo dobrym przepływem powietrza. W serwerach z czterema kartami dobieramy zasilanie z zapasem mocy i chłodzenie przelotowe, które wyrzuca ciepłe powietrze poza obudowę. Każdy zestaw przechodzi 24-godzinny test pod pełnym obciążeniem wszystkich kart.
System i oprogramowanie
Stacje i serwery AI dostarczamy z systemem Ubuntu Linux lub Windows 11 Pro, aktualnymi sterownikami NVIDIA i środowiskiem CUDA. Na życzenie przygotowujemy również Docker z obsługą kart graficznych oraz wybrane narzędzia, np. Ollama, Open WebUI lub ComfyUI, tak aby sprzęt był gotowy do pracy po podłączeniu.
Ile kosztuje stacja AI?
Stacja AI z kartą GeForce RTX 5090 (32 GB VRAM) kosztuje od 34 300 zł. Konfiguracja na platformie Threadripper, przygotowana do rozbudowy o kolejne karty, kosztuje od 52 000 zł. Zestawy z kilkoma kartami i serwery rack wyceniamy indywidualnie, ponieważ cena zależy głównie od liczby i modelu kart graficznych.
Stacja AI desktop czy serwer rack?
Stację desktop wybiera się do pracy jednej osoby lub małego zespołu: stoi przy biurku, pracuje cicho i mieści jedną lub dwie karty. Serwer rack 4U sprawdza się, gdy z modeli ma korzystać wiele osób jednocześnie, potrzeba więcej niż dwóch kart albo sprzęt ma pracować całą dobę w serwerowni.
Jaka karta graficzna do lokalnego LLM?
Najczęściej wybierana jest GeForce RTX 5090 z 32 GB pamięci, która w całości mieści modele rzędu 30 miliardów parametrów. Do większych modeli potrzeba dwóch kart RTX 5090 albo karty RTX PRO 6000 z 96 GB. Jeśli nie wiesz, jakich modeli będziesz używać, napisz, do czego ma służyć stacja, a zaproponujemy konfigurację.
Czy dwie karty graficzne sumują pamięć VRAM?
Nie tworzą jednej wspólnej pamięci, ale llama.cpp, Ollama i vLLM rozdzielają warstwy modelu między karty. Dwie karty po 32 GB pozwalają więc uruchomić model wymagający około 60 GB. Część wydajności traci się na komunikację między kartami.
Czy lokalny model zastąpi ChatGPT?
Otwarte modele uruchamiane lokalnie dobrze radzą sobie ze streszczaniem i analizą dokumentów, tłumaczeniami, pisaniem kodu i odpowiadaniem na pytania na podstawie firmowej wiedzy. W najbardziej złożonych zadaniach największe modele komercyjne nadal mają przewagę, dlatego wiele firm łączy oba rozwiązania: dane poufne przetwarza lokalnie, a pozostałe w usługach zewnętrznych.
Linux czy Windows do AI?
Do serwerów i pracy z kontenerami zalecamy Ubuntu Linux, w którym większość narzędzi AI działa najprościej. Windows 11 Pro wybiera się, gdy na tej samej stacji pracują też programy graficzne lub CAD. Narzędzia takie jak Ollama, LM Studio i ComfyUI działają w obu systemach.
Czy stację AI można później rozbudować?
Tak. Płytę główną, zasilacz i obudowę dobieramy z myślą o rozbudowie, dlatego do stacji na platformie Threadripper można dołożyć kolejną kartę graficzną, pamięć RAM i dyski. Przy zamówieniu warto określić, ile kart docelowo ma pracować w zestawie.
Czy stację AI można wziąć w leasing?
Tak. Wystawiamy faktury VAT, a przy większych zamówieniach możliwy jest leasing lub wynajem długoterminowy za pośrednictwem firmy leasingowej. Realizujemy także zamówienia publiczne dla uczelni i jednostek badawczych.