Model training / fine-tuning: Anleitung zu den Hardware-Anforderungen
Fine-tuning and training small models (LoRA, small checkpoints).
Hardware-Anforderungen nach Stufe
Drei Stufen für jede Workload: das Minimum, das funktioniert, die empfohlene Komfortzone und die komfortable Reservestufe. Das sind dieselben Stufen, die die WisePC-Entscheidungs-Engine nutzt, wenn sie einen Build um dein Ziel plant.
| Stufe | CPU-Kerne | RAM | Speicher | GPU | Netzwerk |
|---|---|---|---|---|---|
| Minimum | 8 cores | 32 GB | 2 TB (ssd) | ai | 1 GbE |
| Empfohlen | 16 cores | 64 GB | 4 TB (ssd) | ai | 2.5 GbE |
| Komfortabel | 24 cores | 128 GB | 8 TB (ssd) | ai | 10 GbE |
Welche Stufe brauchst du?
- Wähle Minimum (8 Kerne, 32 GB RAM) nur für ein einziges Gerät mit knappem Budget – erwarte wenig Reserven.
- Empfohlen (16 Kerne, 64 GB RAM) ist die Komfortzone: genug für die Workload plus die üblichen Nebendienste, ohne zu viel auszugeben.
- Wähle Komfortabel (24 Kerne, 128 GB RAM), wenn diese Workload die Maschine mit anderen teilt oder wachsen wird – du zahlst für Reserven, nicht für Angst.
- GPU-Regel für diese Workload: ai.
Häufig gestellte Fragen
Wie viel RAM braucht model training / fine-tuning?
32 GB sind das sinnvolle Minimum, 64 GB decken die meisten realen Setups ab und 128 GB geben komfortable Reserven für Wachstum und Zusatzdienste.
Wie viele CPU-Kerne braucht model training / fine-tuning?
Eine CPU mit 8 Kernen ist das Minimum, 16 Kerne sind die empfohlene Komfortzone und 24 Kerne sind komfortabel, wenn sie sich die Maschine mit anderen Workloads teilt.
Braucht model training / fine-tuning eine dedizierte GPU?
Eine dedizierte GPU wird dringend empfohlen – diese Workload macht KI-Berechnungen.
Welchen Speicher und welches Netzwerk erwartet model training / fine-tuning?
Speicher: 4 TB SSD ist die empfohlene Basislinie (2 TB Minimum, 8 TB komfortabel). Netzwerk: 2.5 GbE ist die empfohlene Basislinie.
Was läuft gut neben model training / fine-tuning?
Es passt natürlich zu: AI experimentation.