Der Einstieg in lokale KI: Du lernst, wie Sprachmodelle wie Llama, Qwen und Mistral mit Ollama, llama.cpp, LM Studio oder Open WebUI auf Deinem eigenen Rechner laufen. Dazu kommen die Begriffe, auf die Du überall stößt: quantisierte Modelle, GGUF, Kontextfenster, RAG und Embedding-Modelle. Stell es Dir vor wie ein eigenes ChatGPT, nur dass Deine Daten Deine Daten bleiben und die monatliche Rechnung bei null Euro liegt.
Warum das wichtig ist: Ohne Grundlagen kaufst Du später VRAM für ein Modell, das Dein Rechner nie laden wird.
Die Liste unten ist in der Reihenfolge aufgebaut, in der sich das Thema am natürlichsten lernen lässt: erst verstehen, dann ausprobieren, dann vertiefen. Hake ab, was Du bereits gelesen oder umgesetzt hast. Dein Fortschritt wird lokal im Browser gespeichert.
Einstieg & Überblick
Lokale KI Grundlagen
Agenten-Speicher für KI-Agenten
Lokales RAG
Lokale KI Modelle
Multimodale Ki
Quantisierung von KI-Modellen
Quantisierungsrechner für KI-Modelle
Lokale KI Software
Geschafft? Dann geht es im kostenlosen KI-Lernpfad mit der nächsten Kategorie weiter.