Przejdź do treści

Dobór GPU i porównanie wartości

Algorytm

  1. Zmierz peak VRAM na rzeczywistym modelu lub scenie.
  2. Dodaj 10–20% zapasu; więcej przy wielu użytkownikach.
  3. Ustal, czy błąd bitowy, certyfikacja ISV lub długi job wymaga ECC/pro.
  4. Określ batch, latency, kodowanie wideo i liczbę strumieni.
  5. Policz moc całej stacji oraz czas na baterii.
  6. Sprawdź formę, chłodzenie, złącze, PCIe lanes i PSU.
  7. Porównaj cenę pełnego węzła, nie GPU.
  8. Wykonaj benchmark oraz test recovery.

Macierz decyzji

Potrzeba Preferowana klasa Dlaczego Czego nie robić
tanie małe AI RTX 5060 8GB niski capex nie obiecywać dużych modeli
sensowny start local AI RTX 5060 Ti 16GB VRAM/cena/energia nie wybierać 12GB tylko przez benchmark gamingowy
szybkie media i batch RTX 5070 Ti/5080 throughput nie zakładać, że 16GB = dowolny model
maksimum consumer RTX 5090 32GB 32GB i wydajność nie pomijać 575W i braku ECC
CAD/ISV/ECC 32GB RTX PRO 4500 ECC, sterowniki, 200W nie mylić z GeForce tylko po VRAM
stabilne 48GB RTX 6000 Ada ECC i dojrzałość nie ignorować ceny starszej architektury
duży model na stacji RTX PRO 5000 72GB pojemność przy 300W nie budować na przypadkowej płycie/PSU
maks. pojedyncza stacja RTX PRO 6000 96GB 96GB ECC nie mieszać WS/Max-Q/Server
gęsta inferencja L4/L40S forma serwerowa nie wkładać pasywnej karty do desktopu
training/rack-scale H100–B300/HGX/DGX fabric i HBM nie traktować jako detalicznej karty

Wskaźniki wartości

Wskaźnik zł/GB VRAM jest pomocniczy, ale nie wystarcza. Należy równolegle policzyć:

  • zł / zwalidowane zadanie dla własnego benchmarku;
  • Wh / zwalidowane zadanie;
  • koszt godziny przestoju i recovery;
  • koszt błędnego wyniku;
  • koszt migracji sterownika/aplikacji;
  • koszt pięcioletni: energia, serwis, części, UPS i wymiana.

Przykład: N5 może przetwarzać zadanie wolniej od N8, ale jeżeli wykonuje je nocą w limicie, jego niższy capex i energia mogą dać lepszy koszt całkowity. N10 może być droższy od N9 przy niższym throughput, lecz ECC, 200W i sterowniki mogą wygrać w CAD lub odpowiedzialnym środowisku.

Pełny test porównawczy

Każdy kandydat dostaje ten sam dataset, model, wersję runtime i limit jakości. Mierzy się czas cold start, warm throughput, p95 latency, peak VRAM, energię, temperaturę, error rate, zachowanie po OOM i czas wznowienia z checkpointu. Rezultat jest zatwierdzany tylko, jeśli wszystkie miary oraz hash artefaktu są dostępne.

Błędy i fallback

Brak karty w sklepie nie oznacza automatycznej zamiany na „podobną”. Zmiana 16GB na 8GB albo wersji Workstation na Server może unieważnić projekt. Fallback jest wcześniej zapisany jako dokładny product ID i przechodzi ponowne sprawdzenie kompatybilności, ceny i testów.