Dobór GPU i porównanie wartości¶
Algorytm¶
- Zmierz peak VRAM na rzeczywistym modelu lub scenie.
- Dodaj 10–20% zapasu; więcej przy wielu użytkownikach.
- Ustal, czy błąd bitowy, certyfikacja ISV lub długi job wymaga ECC/pro.
- Określ batch, latency, kodowanie wideo i liczbę strumieni.
- Policz moc całej stacji oraz czas na baterii.
- Sprawdź formę, chłodzenie, złącze, PCIe lanes i PSU.
- Porównaj cenę pełnego węzła, nie GPU.
- Wykonaj benchmark oraz test recovery.
Macierz decyzji¶
| Potrzeba | Preferowana klasa | Dlaczego | Czego nie robić |
|---|---|---|---|
| tanie małe AI | RTX 5060 8GB | niski capex | nie obiecywać dużych modeli |
| sensowny start local AI | RTX 5060 Ti 16GB | VRAM/cena/energia | nie wybierać 12GB tylko przez benchmark gamingowy |
| szybkie media i batch | RTX 5070 Ti/5080 | throughput | nie zakładać, że 16GB = dowolny model |
| maksimum consumer | RTX 5090 32GB | 32GB i wydajność | nie pomijać 575W i braku ECC |
| CAD/ISV/ECC 32GB | RTX PRO 4500 | ECC, sterowniki, 200W | nie mylić z GeForce tylko po VRAM |
| stabilne 48GB | RTX 6000 Ada | ECC i dojrzałość | nie ignorować ceny starszej architektury |
| duży model na stacji | RTX PRO 5000 72GB | pojemność przy 300W | nie budować na przypadkowej płycie/PSU |
| maks. pojedyncza stacja | RTX PRO 6000 96GB | 96GB ECC | nie mieszać WS/Max-Q/Server |
| gęsta inferencja | L4/L40S | forma serwerowa | nie wkładać pasywnej karty do desktopu |
| training/rack-scale | H100–B300/HGX/DGX | fabric i HBM | nie traktować jako detalicznej karty |
Wskaźniki wartości¶
Wskaźnik zł/GB VRAM jest pomocniczy, ale nie wystarcza. Należy równolegle policzyć:
zł / zwalidowane zadaniedla własnego benchmarku;Wh / zwalidowane zadanie;- koszt godziny przestoju i recovery;
- koszt błędnego wyniku;
- koszt migracji sterownika/aplikacji;
- koszt pięcioletni: energia, serwis, części, UPS i wymiana.
Przykład: N5 może przetwarzać zadanie wolniej od N8, ale jeżeli wykonuje je nocą w limicie, jego niższy capex i energia mogą dać lepszy koszt całkowity. N10 może być droższy od N9 przy niższym throughput, lecz ECC, 200W i sterowniki mogą wygrać w CAD lub odpowiedzialnym środowisku.
Pełny test porównawczy¶
Każdy kandydat dostaje ten sam dataset, model, wersję runtime i limit jakości. Mierzy się czas cold start, warm throughput, p95 latency, peak VRAM, energię, temperaturę, error rate, zachowanie po OOM i czas wznowienia z checkpointu. Rezultat jest zatwierdzany tylko, jeśli wszystkie miary oraz hash artefaktu są dostępne.
Błędy i fallback¶
Brak karty w sklepie nie oznacza automatycznej zamiany na „podobną”. Zmiana 16GB na 8GB albo wersji Workstation na Server może unieważnić projekt. Fallback jest wcześniej zapisany jako dokładny product ID i przechodzi ponowne sprawdzenie kompatybilności, ceny i testów.