Scrivi un gioco, un componente (RTX 4070, i5-14400), un servizio (Plex) o uno strumento.

ITItaliano
Accedi
Menu
Inferenza AI locale
Guida ai carichi di lavoro · IA

Inferenza AI locale: guida ai requisiti hardware

Eseguire LLM o altri modelli localmente (Ollama, vLLM, llama.cpp).

Sempre acceso 24/7

Requisiti hardware per livello

Tre livelli per ogni carico: il minimo che funziona, il punto dolce consigliato e il livello comodo di margine. Sono gli stessi livelli che il motore di decisione WisePC usa quando pianifica un build attorno al tuo obiettivo.

LivelloCore CPURAMArchiviazioneGPUVRAMRete
Minimo8 cores16 GB1 TB (ssd)ai12 GB di VRAM1 GbE
Consigliato12 cores32 GB1 TB (ssd)ai16 GB di VRAM2.5 GbE
Comodo16 cores64 GB2 TB (ssd)ai24 GB di VRAM10 GbE
Eccessivo26 cores103 GB4 TB (ssd)AI24 GB di VRAM10 GbE

Oltre Confortevole — 26 core, 103 GB di RAM, 4 TB (SSD): margine che non userai mai per questo solo workload. Metti la differenza in storage, backup o silenzio.

Forma di sistema consigliata

Derivata dal motore decisionale dal livello consigliato — la stessa logica che pianifica build complete.

Fattore di forma
tower
Stile di assemblaggio
diy
Piano dischi
2× 2TB NVMe

Requirements (12 threads, 32GB RAM, 4TB storage, dedicated GPU) need a custom tower build.

Un solo sistema o uno dedicato?

Resta sul server principale

GPU-bound compute is expensive to duplicate — a second GPU box roughly doubles cost for little resilience gain. Keep it on the main machine.

Se questo workload merita una macchina propria o deve restare sul server principale.

Array di storage, con prezzi

Cinque strategie fisiche per la capacità consigliata — stesso pianificatore, stesso modello dischi e stessi prezzi di riferimento dello strumento storage.

StrategiaDischiUtileCostoIdle
La più economica 1× 4TB hdd4 TB · none≈ €2255 W
Bilanciata 1× 16TB hdd16 TB · none≈ €6986 W
Ridondante 3× 8TB hdd8 TB · parity2≈ €123615 W
Espandibile 1× 20TB hdd20 TB · none≈ €8787 W
Prestazioni Consigliato2× 4TB nvme4 TB · parity1≈ €15762 W

Per un livello di lavoro veloce, punta tutto sulla flash — la strategia prestazionale protegge la velocità senza i lunghi rebuild degli HDD.

Il backup non è storage

La copia extra che sopravvive a guasti, cancellazioni e ransomware — stesso motore del pianificatore backup.

Proteggi 1 TB con almeno due copie su hardware separato, idealmente una fuori sede. Il punto di partenza consigliato è un NAS dedicato.

Consigliato: NAS separato
Un box dedicato che conserva solo i backup · ≈ €278
high
Nessuna copia esterna

Aggiungi una seconda copia fuori dall'edificio — cloud o un disco a casa di un amico.

medium
Nessun versionamento

Usa uno strumento con versionamento (restic, borg, Backblaze) che conserva la cronologia.

medium
Backup non programmati

Pianifica i backup automaticamente e monitorali.

medium
Backup sulla stessa macchina

Conserva il backup su hardware separato o fuori sede.

Quanto costerà?

Fasce EUR neutrali dal modello di riferimento (≈ = prezzo di strada stimato). I prezzi live dei componenti sono sulla pagina della build per la tua regione.

Array di dischi
≈ €225 – €1576
Energia array / anno
≈ €81/yr
∼37 W idle

Il calcolo (CPU, scheda, RAM, GPU) non è incluso — vedi la build consigliata per i prezzi live.

Prospettive di crescita

Cosa succede quando i dati continuano a crescere — stesso motore del simulatore di crescita.

Questa architettura diventa inadeguata nell'anno 2 — 2 bay necessari. Pianifica il passo successivo (array più grande, NAS o DAS, o una piattaforma più potente) prima di allora.

Supera il massimo di 2 TB di 1 TB — serve un array più grande/DAS/NAS. Nuovo array Prestazioni per 3 TB: 2 bay, ~1576 €.

Di quale livello hai bisogno?

  • Scegli Minimo (8 core, 16 GB di RAM) solo per una macchina a uso singolo con budget ridotto — aspettati poco margine.
  • Consigliato (12 core, 32 GB di RAM) è il punto dolce: abbastanza per il carico più i soliti servizi accessori, senza spendere troppo.
  • Scegli Comodo (16 core, 64 GB di RAM) quando questo carico condivide la macchina con altri o crescerà — paghi per il margine, non per l'ansia.
  • Regola GPU per questo carico: ai.Regola GPU per questo workload: ai (16 GB di VRAM).

Trattato anche in questa guida

Assistente codice (LLM locale)

Modelli locali di completamento codice e chat (Ollama, Continue).

Continua

Domande frequenti

Quanta RAM serve a inferenza ai locale?
16 GB è il minimo sensato, 32 GB copre la maggior parte delle configurazioni reali e 64 GB dà un margine comodo per la crescita e i servizi extra.
Quanti core CPU servono a inferenza ai locale?
Una CPU da 8 core è il minimo, 12 core è il punto dolce consigliato e 16 core è comodo quando condivide la macchina con altri carichi.
inferenza ai locale ha bisogno di una GPU dedicata?
Una GPU dedicata è fortemente consigliata: questo carico fa calcolo IA. Servono 12–24 GB di VRAM (12 minimo, 16 consigliato, 24 confortevole).
Quale archiviazione e rete si aspetta inferenza ai locale?
Archiviazione: 1 TB di SSD è la base consigliata (1 TB minimo, 2 TB comodo). Rete: 2.5 GbE è la base consigliata.
Cosa funziona bene accanto a inferenza ai locale?
Si abbina naturalmente con: Generazione immagini, Sperimentazione AI, Database.
Quanta energia consuma inferenza ai locale?
L'array consuma circa 37 W in idle (≈ 81 €/anno a 0,25 €/kWh). Il sistema completo aggiunge CPU, scheda e ventole — vedi la sezione costi per fasce oneste.

Guide di carichi correlati