RAM, VRAM & lokale Modelle — was brauchst du wirklich?

Kurz und ehrlich

Lokale Modelle leben von drei Dingen: VRAM, RAM und Geduld beim Quantisieren.

Faustregeln
- 8 GB VRAM → kleine 7B-Modelle (Q4/Q5), gut zum Experimentieren
- 12–16 GB → komfortabler Alltag für 7B–13B
- 24 GB+ → größere Modelle / längere Kontexte

CPU-only
Geht — aber langsam. Sinnvoll für Tests, nicht für Flow.

Checkliste vor dem Kauf
1. Welches Modellziel? (Chat, Code, Bild)
2. Quantisierung verstanden? (Q4 vs Q8)
3. Kühlung & Netzteil nicht vergessen
4. SSD-Platz für Modell-Dateien

Poste gerne eure Setups (GPU + typische Modelle).

— PromptPlay