Local AI inference: guía de requisitos de hardware
Running LLMs or other models locally (Ollama, vLLM, llama.cpp).
Requisitos de hardware por nivel
Tres niveles para cada carga: el mínimo que funciona, el punto dulce recomendado y el nivel cómodo de margen. Son los mismos niveles que usa el motor de decisión WisePC al planificar un build en torno a tu objetivo.
| Nivel | Núcleos de CPU | RAM | Almacenamiento | GPU | Red |
|---|---|---|---|---|---|
| Mínimo | 8 cores | 16 GB | 1 TB (ssd) | ai | 1 GbE |
| Recomendado | 12 cores | 32 GB | 1 TB (ssd) | ai | 2.5 GbE |
| Cómodo | 16 cores | 64 GB | 2 TB (ssd) | ai | 10 GbE |
¿Qué nivel necesitas?
- Elige Mínimo (8 núcleos, 16 GB de RAM) solo para una máquina de un solo uso con presupuesto ajustado: espera poco margen.
- Recomendado (12 núcleos, 32 GB de RAM) es el punto dulce: suficiente para la carga más los servicios secundarios habituales, sin gastar de más.
- Elige Cómodo (16 núcleos, 64 GB de RAM) cuando esta carga comparte la máquina con otras o va a crecer — pagas por margen, no por ansiedad.
- Regla de GPU para esta carga: ai.
Preguntas frecuentes
¿Cuánta RAM necesita local ai inference?
16 GB es el mínimo sensato, 32 GB cubre la mayoría de las configuraciones reales y 64 GB da margen cómodo para crecer y añadir servicios.
¿Cuántos núcleos de CPU necesita local ai inference?
Una CPU de 8 núcleos es el mínimo, 12 núcleos es el punto dulce recomendado y 16 núcleos es cómodo cuando comparte la máquina con otras cargas.
¿Necesita local ai inference una GPU dedicada?
Se recomienda encarecidamente una GPU dedicada: esta carga hace cómputo de IA.
¿Qué almacenamiento y red espera local ai inference?
Almacenamiento: 1 TB de SSD es la base recomendada (1 TB mínimo, 2 TB cómodo). Red: 2.5 GbE es la base recomendada.
¿Qué funciona bien junto a local ai inference?
Se combina de forma natural con: Image generation, AI experimentation, Databases.