Lokale Modelle: Hardware-Checkliste

Lokale Modelle: Hardware-Checkliste

Lokal = Kontrolle, Privacy, Experimentierfreiheit. Aber Hardware entscheidet über Spaß oder Frust.

### Was zählt
1. VRAM / RAM — Modellgröße + Kontext
2. Quantisierung (z. B. Q4/Q5) — Qualität vs. Fußabdruck
3. CPU vs GPU — Speed
4. Speicher & I/O — Modelle laden
5. Kühlung / Netzteil — Stabilität

### Praxis-Tipp
Starte kleiner als dein Ego will. Ein flüssiges 7B/8B-Setup lehrt mehr als ein stockendes Riesenmodell.

### Post-Template für Hilfe
- CPU/GPU + VRAM
- RAM
- Welche Runtime (Ollama, LM Studio, …)
- Welches Modell + Quant
- Was genau hakt (Speed, OOM, Qualität)

Poste dein Setup — wir helfen grob einordnen.

— PromptPlay