Autentificare
Meniu
Model training / fine-tuning
Ghid de workload · AI

Model training / fine-tuning: ghid de cerințe hardware

Fine-tuning și antrenare de modele mici (LoRA, checkpoint-uri mici).

Mereu pornit 24/7

Cerințe hardware pe niveluri

Trei niveluri pentru fiecare workload: minimul care funcționează, nivelul recomandat și nivelul confortabil. Acestea sunt aceleași niveluri pe care motorul de decizie WisePC le folosește când planifică un build în jurul obiectivului tău.

NivelNuclee CPURAMStocareGPUVRAMRețea
Minimum8 cores32 GB2 TB (ssd)ai16 GB VRAM1 GbE
Recomandat16 cores64 GB4 TB (ssd)ai24 GB VRAM2.5 GbE
Confortabil24 cores128 GB8 TB (ssd)ai48 GB VRAM10 GbE
Excesiv39 cores205 GB16 TB (ssd)ai48 GB VRAM10 GbE

Dincolo de Confortabil — 39 nuclee, 205 GB RAM, 16 TB (SSD): headroom pe care nu-l vei folosi niciodată doar pentru acest workload. Pune diferența în stocare, backup sau liniște.

Forma recomandată a sistemului

Derivată de motorul de decizie din nivelul recomandat — aceeași logică ce planifică build-urile complete.

Factor de formă
tower
Stil de construcție
diy
Plan de unități
2× 4.1TB NVMe

Requirements (16 threads, 64GB RAM, 8TB storage, dedicated GPU) need a custom tower build.

Un singur sistem sau unul separat?

Rămâne pe serverul principal

GPU-bound compute is expensive to duplicate — a second GPU box roughly doubles cost for little resilience gain. Keep it on the main machine.

Dacă acest workload merită propriul sistem sau ar trebui să stea pe serverul principal.

Matrice de stocare, cu prețuri

Cinci strategii fizice pentru capacitatea recomandată — același planner, același model de unități și prețuri de referință ca tool-ul de stocare.

StrategieUnitățiUtilCostIdle
Cheapest 2× 4TB hdd4 TB · parity1≈ €41810 W
Balanced Recomandat2× 16TB hdd16 TB · parity1≈ €140212 W
Redundant 3× 8TB hdd8 TB · parity2≈ €116415 W
Expansion-friendly 2× 20TB hdd20 TB · parity1≈ €179214 W
Performance 2× 4TB nvme4 TB · parity1≈ €16262 W

For a fast working tier, go all-flash — the performance strategy protects speed without the HDD rebuild pain.

Backup-ul nu e stocare

Copia extra care supraviețuiește defectării discurilor, ștergerilor și ransomware-ului — același motor ca planner-ul de backup.

Protect 4TB with at least two copies on separate hardware, ideally one offsite. The recommended start is a dedicated NAS.

Recomandat: Separate NAS
A dedicated box that only stores backups · ≈ €353
high
No offsite copy

Add a second copy outside the building — cloud or a drive at a friend's house.

medium
No versioning

Use a versioning-aware tool (restic, borg, Backblaze) that keeps history.

medium
Unscheduled backups

Schedule backups automatically and monitor them.

medium
Backup on the same machine

Keep the backup on separate hardware or offsite.

Cât va costa?

Benzi neutre de piață în EUR din modelul de referință (≈ = preț stradal estimat). Prețurile live ale componentelor se rezolvă pe pagina de build pentru regiunea ta.

Matrice de stocare
≈ €418 – €1792
Energie matrice / an
≈ €103/yr
∼47 W idle

Calculul (CPU, placă, RAM, GPU) nu e inclus — vezi build-ul recomandat pentru prețuri live.

Perspectiva de creștere

Ce se întâmplă când datele cresc în continuare — același motor ca simulatorul de creștere.

Storage stays within 8TB across the 3-year horizon — the architecture fits your expected growth.

Within capacity and bays — no new bay needed for 7TB.

Ce nivel ai nevoie?

  • Alege Minimum (8 nuclee, 32 GB RAM) doar pentru o mașină cu un singur scop și buget strâns — așteaptă-te la headroom mic.
  • Recomandat (16 nuclee, 64 GB RAM) e punctul optim: suficient pentru workload plus serviciile secundare obișnuite, fără să plătești în plus.
  • Alege Confortabil (24 nuclee, 128 GB RAM) când workload-ul împarte mașina cu altele sau va crește — plătești pentru headroom, nu pentru stres.
  • Regula de GPU pentru acest workload: ai.Regula de GPU pentru acest workload: ai (24 GB VRAM).

Acoperit tot în acest ghid

Experimentare AI

Învățare și experimente cu modele, antrenare de modele mici, tooling.

Mai departe

Întrebări frecvente

Cât RAM are nevoie model training / fine-tuning?
32 GB este minimul rațional, 64 GB acoperă majoritatea configurărilor reale, iar 128 GB oferă headroom confortabil pentru creștere și servicii extra.
Câte nuclee de CPU are nevoie model training / fine-tuning?
Un CPU cu 8 nuclee este minimul, 16 nuclee este punctul optim recomandat, iar 24 nuclee este confortabil când împarte mașina cu alte workload-uri.
Are nevoie model training / fine-tuning de un GPU dedicat?
Un GPU dedicat este puternic recomandat — acest workload face calcul AI. Necesită 16–48 GB VRAM (16 minim, 24 recomandat, 48 confortabil).
Ce stocare și rețea așteaptă model training / fine-tuning?
Stocare: 4 TB de SSD este nivelul recomandat (2 TB minim, 8 TB confortabil). Rețea: 2.5 GbE este nivelul recomandat.
Ce merge bine alături de model training / fine-tuning?
Se potrivește natural cu: Experimentare AI.
Câtă energie consumă model training / fine-tuning?
Matricea de stocare stă în idle la ~47 W (≈ 103 €/an la 0,25 €/kWh). Sistemul complet adaugă CPU, placă și ventilatoare — vezi secțiunea de cost pentru benzi oneste.

Ghiduri de workload înrudite