Local AI inference: guia de requisitos de hardware
Running LLMs or other models locally (Ollama, vLLM, llama.cpp).
Requisitos de hardware por nível
Três níveis para cada carga: o mínimo que funciona, o ponto ideal recomendado e o nível confortável de margem. São os mesmos níveis que o motor de decisão WisePC usa quando planeia um build em torno do teu objetivo.
| Nível | Núcleos de CPU | RAM | Armazenamento | GPU | Rede |
|---|---|---|---|---|---|
| Mínimo | 8 cores | 16 GB | 1 TB (ssd) | ai | 1 GbE |
| Recomendado | 12 cores | 32 GB | 1 TB (ssd) | ai | 2.5 GbE |
| Confortável | 16 cores | 64 GB | 2 TB (ssd) | ai | 10 GbE |
De que nível precisas?
- Escolhe Mínimo (8 núcleos, 16 GB de RAM) apenas para uma máquina de uso único com orçamento apertado — espera pouca margem.
- Recomendado (12 núcleos, 32 GB de RAM) é o ponto ideal: suficiente para a carga mais os serviços secundários habituais, sem gastar demais.
- Escolhe Confortável (16 núcleos, 64 GB de RAM) quando esta carga partilha a máquina com outras ou vai crescer — pagas por margem, não por ansiedade.
- Regra de GPU para esta carga: ai.
Perguntas frequentes
Quanta RAM precisa o local ai inference?
16 GB é o mínimo sensato, 32 GB cobre a maioria das configurações reais e 64 GB dá margem confortável para crescimento e serviços extra.
De quantos núcleos de CPU precisa o local ai inference?
Uma CPU com 8 núcleos é o mínimo, 12 núcleos é o ponto ideal recomendado e 16 núcleos é confortável quando partilha a máquina com outras cargas.
O local ai inference precisa de uma GPU dedicada?
Uma GPU dedicada é fortemente recomendada — esta carga faz computação de IA.
Que armazenamento e rede o local ai inference espera?
Armazenamento: 1 TB de SSD é a linha de base recomendada (1 TB mínimo, 2 TB confortável). Rede: 2.5 GbE é a linha de base recomendada.
O que funciona bem ao lado do local ai inference?
Combina naturalmente com: Image generation, AI experimentation, Databases.