Model training / fine-tuning: guide för hårdvarukrav
Fine-tuning and training small models (LoRA, small checkpoints).
Hårdvarukrav per nivå
Tre nivåer för varje arbetsbelastning: minimumet som fungerar, den rekommenderade sweet spot-en och den bekväma marginalnivån. Det är samma nivåer som WisePC-beslutsmotorn använder när den planerar ett bygge runt ditt mål.
| Nivå | CPU-kärnor | RAM | Lagring | GPU | Nätverk |
|---|---|---|---|---|---|
| Minimum | 8 cores | 32 GB | 2 TB (ssd) | ai | 1 GbE |
| Rekommenderat | 16 cores | 64 GB | 4 TB (ssd) | ai | 2.5 GbE |
| Bekvämt | 24 cores | 128 GB | 8 TB (ssd) | ai | 10 GbE |
Vilken nivå behöver du?
- Välj Minimum (8 kärnor, 32 GB RAM) bara för en enspårig maskin med stram budget — förvänta dig lite marginal.
- Rekommenderat (16 kärnor, 64 GB RAM) är sweet spot-en: tillräckligt för arbetsbelastningen plus de vanliga sido-tjänsterna, utan att överspendera.
- Välj Bekvämt (24 kärnor, 128 GB RAM) när denna arbetsbelastning delar maskinen med andra eller kommer att växa — du betalar för marginal, inte för ångest.
- GPU-regel för denna arbetsbelastning: ai.
Vanliga frågor
Hur mycket RAM behöver model training / fine-tuning?
32 GB är ett förnuftigt minimum, 64 GB täcker de flesta verkliga uppsättningar, och 128 GB ger bekväm marginal för tillväxt och extra tjänster.
Hur många CPU-kärnor behöver model training / fine-tuning?
En CPU med 8 kärnor är minimumet, 16 kärnor är den rekommenderade sweet spot-en, och 24 kärnor är bekvämt när den delar maskinen med andra arbetsbelastningar.
Behöver model training / fine-tuning ett dedikerat GPU?
Ett dedikerat GPU rekommenderas starkt — denna arbetsbelastning gör AI-beräkningar.
Vilken lagring och vilket nätverk förväntar sig model training / fine-tuning?
Lagring: 4 TB SSD är den rekommenderade baslinjen (2 TB minimum, 8 TB bekvämt). Nätverk: 2.5 GbE är den rekommenderade baslinjen.
Vad fungerar bra tillsammans med model training / fine-tuning?
Den kombinerar naturligt med: AI experimentation.