Model training / fine-tuning: ghid de cerințe hardware
Fine-tuning și antrenare de modele mici (LoRA, checkpoint-uri mici).
Cerințe hardware pe niveluri
Trei niveluri pentru fiecare workload: minimul care funcționează, nivelul recomandat și nivelul confortabil. Acestea sunt aceleași niveluri pe care motorul de decizie WisePC le folosește când planifică un build în jurul obiectivului tău.
| Nivel | Nuclee CPU | RAM | Stocare | GPU | VRAM | Rețea |
|---|---|---|---|---|---|---|
| Minimum | 8 cores | 32 GB | 2 TB (ssd) | ai | 16 GB VRAM | 1 GbE |
| Recomandat | 16 cores | 64 GB | 4 TB (ssd) | ai | 24 GB VRAM | 2.5 GbE |
| Confortabil | 24 cores | 128 GB | 8 TB (ssd) | ai | 48 GB VRAM | 10 GbE |
| Excesiv | 39 cores | 205 GB | 16 TB (ssd) | ai | 48 GB VRAM | 10 GbE |
Dincolo de Confortabil — 39 nuclee, 205 GB RAM, 16 TB (SSD): headroom pe care nu-l vei folosi niciodată doar pentru acest workload. Pune diferența în stocare, backup sau liniște.
Forma recomandată a sistemului
Derivată de motorul de decizie din nivelul recomandat — aceeași logică ce planifică build-urile complete.
- Factor de formă
- tower
- Stil de construcție
- diy
- Plan de unități
- 2× 4.1TB NVMe
Requirements (16 threads, 64GB RAM, 8TB storage, dedicated GPU) need a custom tower build.
Un singur sistem sau unul separat?
Dacă acest workload merită propriul sistem sau ar trebui să stea pe serverul principal.
Rămâne pe serverul principal
GPU-bound compute is expensive to duplicate — a second GPU box roughly doubles cost for little resilience gain. Keep it on the main machine.
Matrice de stocare, cu prețuri
Cinci strategii fizice pentru capacitatea recomandată — același planner, același model de unități și prețuri de referință ca tool-ul de stocare.
| Strategie | Unități | Util | Cost | Idle |
|---|---|---|---|---|
| Cheapest | 2× 4TB hdd | 4 TB · parity1 | ≈ €200 | 10 W |
| BalancedRecomandat | 2× 16TB hdd | 16 TB · parity1 | ≈ €480 | 12 W |
| Redundant | 3× 8TB hdd | 8 TB · parity2 | ≈ €450 | 15 W |
| Expansion-friendly | 2× 20TB hdd | 20 TB · parity1 | ≈ €600 | 14 W |
| Performance | 2× 4TB nvme | 4 TB · parity1 | ≈ €480 | 2 W |
For a fast working tier, go all-flash — the performance strategy protects speed without the HDD rebuild pain.
Backup-ul nu e stocare
Copia extra care supraviețuiește defectării discurilor, ștergerilor și ransomware-ului — același motor ca planner-ul de backup.
Protect 4TB with at least two copies on separate hardware, ideally one offsite. The recommended start is a dedicated NAS.
Recomandat: Separate NAS — A dedicated box that only stores backups · ≈ €353
- No offsite copy (high): Add a second copy outside the building — cloud or a drive at a friend's house.
- No versioning (medium): Use a versioning-aware tool (restic, borg, Backblaze) that keeps history.
- Unscheduled backups (medium): Schedule backups automatically and monitor them.
- Backup on the same machine (medium): Keep the backup on separate hardware or offsite.
Cât va costa?
Benzi neutre de piață în EUR din modelul de referință (≈ = preț stradal estimat). Prețurile live ale componentelor se rezolvă pe pagina de build pentru regiunea ta.
- Matrice de stocare
- ≈ €200 – €600
- Energie matrice / an
- ≈ €103/yr (∼47 W idle)
Calculul (CPU, placă, RAM, GPU) nu e inclus — vezi build-ul recomandat pentru prețuri live.
Perspectiva de creștere
Ce se întâmplă când datele cresc în continuare — același motor ca simulatorul de creștere.
Storage stays within 8TB across the 3-year horizon — the architecture fits your expected growth.
Within capacity and bays — no new bay needed for 7TB.
Acoperit tot în acest ghid
Experimentare AI
Învățare și experimente cu modele, antrenare de modele mici, tooling.
Ce nivel ai nevoie?
- Alege Minimum (8 nuclee, 32 GB RAM) doar pentru o mașină cu un singur scop și buget strâns — așteaptă-te la headroom mic.
- Recomandat (16 nuclee, 64 GB RAM) e punctul optim: suficient pentru workload plus serviciile secundare obișnuite, fără să plătești în plus.
- Alege Confortabil (24 nuclee, 128 GB RAM) când workload-ul împarte mașina cu altele sau va crește — plătești pentru headroom, nu pentru stres.
- Regula de GPU pentru acest workload: ai.Regula de GPU pentru acest workload: ai (24 GB VRAM).
Întrebări frecvente
Cât RAM are nevoie model training / fine-tuning?
32 GB este minimul rațional, 64 GB acoperă majoritatea configurărilor reale, iar 128 GB oferă headroom confortabil pentru creștere și servicii extra.
Câte nuclee de CPU are nevoie model training / fine-tuning?
Un CPU cu 8 nuclee este minimul, 16 nuclee este punctul optim recomandat, iar 24 nuclee este confortabil când împarte mașina cu alte workload-uri.
Are nevoie model training / fine-tuning de un GPU dedicat?
Un GPU dedicat este puternic recomandat — acest workload face calcul AI. Necesită 16–48 GB VRAM (16 minim, 24 recomandat, 48 confortabil).
Ce stocare și rețea așteaptă model training / fine-tuning?
Stocare: 4 TB de SSD este nivelul recomandat (2 TB minim, 8 TB confortabil). Rețea: 2.5 GbE este nivelul recomandat.
Ce merge bine alături de model training / fine-tuning?
Se potrivește natural cu: Experimentare AI.
Câtă energie consumă model training / fine-tuning?
Matricea de stocare stă în idle la ~47 W (≈ 103 €/an la 0,25 €/kWh). Sistemul complet adaugă CPU, placă și ventilatoare — vezi secțiunea de cost pentru benzi oneste.