Lokale KI mit Ollama: Installation bis erster Chat

KI komplett auf dem eigenen Rechner — kostenlos, ohne Account, Daten bleiben bei dir.

Voraussetzungen
• Windows, macOS oder Linux
• 8 GB RAM (16 GB besser) — kleine Modelle laufen auch ohne Grafikkarte

Schritt 1: Installieren
ollama.com → Download → installieren. Fertig ist der Unterbau.

Schritt 2: Erstes Modell laden
Terminal/Eingabeaufforderung öffnen:

ollama run llama3.2

Beim ersten Mal lädt das Modell (~2 GB). Danach: direkt lostippen!

Schritt 3: Modelle für deinen Rechner
• llama3.2 (3B) — flott, auch ohne GPU okay
• qwen2.5-coder — stark für Code
• mistral — solider Allrounder
Faustregel: Modellgröße in GB sollte kleiner sein als dein (V)RAM.

Schritt 4: Schönere Oberfläche (optional)
Open WebUI gibt dir ein ChatGPT-ähnliches Interface für Ollama — Links in unseren Ressourcen.

Ehrliche Erwartung
Lokale kleine Modelle sind schwächer als ChatGPT & Co. Dafür: privat, offline, kostenlos, unbegrenzt. Perfekt zum Lernen und Experimentieren.

Hängt was? Fehlermeldung hier in den Thread posten — wir helfen.