Reasoning-Modelle für lokale KI

Was dieser Artikel über Reasoning-Modelle behandelt

• Was Reasoning-Modelle sind und wie sie sich von normalen LLMs unterscheiden.
• Wie Chain-of-Thought und Test-Time-Compute funktionieren.
• Welche Open-Source-Reasoning-Modelle es gibt.
• Wie man sie lokal mit Ollama und vLLM betreibt.
• Hardwareanforderungen und typische Stolpersteine.

Einleitung: Reasoning-Modelle für lokale KI

Reasoning-Modelle sollen nicht nur antworten, sondern auch nachdenken. Sie nutzen Techniken wie Chain-of-Thought, um Aufgaben in Zwischenschritte zu zerlegen. Das ist besonders für Mathe, Logik, Code-Debugging und Planungsaufgaben nützlich. Normale Sprachmodelle geben oft direkt eine Antwort aus, Reasoning-Modelle zeigen ihren Lösungsweg.

Lokales Reasoning ist für datenschutzsensible Aufgaben attraktiv. Mathematische Berechnungen, interne Planungen oder komplexe Analysen müssen nicht in die Cloud. Allerdings brauchen Reasoning-Modelle mehr Rechenleistung, weil sie längere Ausgaben erzeugen.

Warum brauche ich Reasoning-Modelle?

Reasoning ist hilfreich, wenn:

• ein Problem mehrere Schritte braucht,
• der Lösungsweg wichtiger ist als die Antwort,
• logische Schlüsse gezogen werden müssen,
• Mathematik oder Code-Debugging gefragt ist,
• Agenten Pläne entwickeln sollen,
• komplexe Entscheidungen transparent werden sollen.

Reasoning-Modelle kurz erklärt

Reasoning-Modelle sind Sprachmodelle, die darauf trainiert wurden, schrittweise zu denken. Sie formulieren Zwischenschritte, prüfen eigene Ergebnisse und korrigieren sich. Dieser Prozess wird als Chain-of-Thought bezeichnet. Manche Modelle nutzen zusätzlich Test-Time-Compute, also mehr Rechenaufwand während der Inferenz, um bessere Antworten zu finden.

Wichtige Begriffe:

• Chain-of-Thought: Schritt-für-Schritt-Denken.
• Test-Time-Compute: Mehr Rechenaufwand beim Generieren.
• Self-Correction: Modell korrigiert eigene Fehler.
• Reasoning Trace: Sichtbarer Denkprozess.
• Reward Model: Bewertet einzelne Schritte.
• Inference Scaling: Längere oder mehrere Inferenzdurchläufe.

Für wen sind Reasoning-Modelle gedacht?

• Für Entwickler, die komplexe Probleme lösen.
• Für Mathematiker und Ingenieure.
• Für Agenten-Entwickler, die Planung brauchen.
• Für Teams, die transparente Entscheidungen wollen.
• Für Forscher und Bastler.

Wichtige Begriffe rund um Reasoning

• DeepSeek-R1: Beliebtes Open-Source-Reasoning-Modell.
• QwQ: Reasoning-Modell von Alibaba.
• o1: OpenAIs Reasoning-Modell, nicht lokal verfügbar.
• STaR: Self-Taught Reasoner, Trainingsmethode.
• MCTS: Monte Carlo Tree Search für Planung.
• Process Reward Model: Belohnt gute Zwischenschritte.

Gängige Reasoning-Modelle

DeepSeek-R1

Sehr bekannt und stark in Mathe und Code. Viele Varianten und Quantisierungen. Lokal mit Ollama verfügbar. 32B-Variante liefert gute Ergebnisse, 70B+ sehr starke Ergebnisse.

QwQ

Reasoning-Modell von Qwen. Starke multilingualen Fähigkeiten, auch für Deutsch. Verschiedene Größen verfügbar. Gute Alternative zu DeepSeek-R1.

Reflection-Modelle

Einige Modelle wie Reflection haben Reasoning-Anteile. Qualität variiert, empfohlen nur mit aktuellen Versionen.

Hardwareanforderungen

Reasoning-Modelle sind oft groß, weil sie lange Denkprozesse erzeugen.

• 7B Distill: Läuft auf 8 GB VRAM, aber kurzer Denkprozess.
• 14B-32B: 16-24 GB VRAM empfohlen.
• 70B+: Mehrere GPUs oder starke Workstation.

Test-Time-Compute bedeutet längere Generierung. Schnelle GPU ist deutlich spürbar.

Praxisbeispiel: DeepSeek-R1 mit Ollama

ollama pull deepseek-r1:32b
ollama run deepseek-r1:32b

Beispielprompt:

Ein Zug fährt 60 km/h. Ein zweiter Zug startet 2 Stunden später mit 90 km/h. 
Wann holt der zweite Zug den ersten ein? Denke Schritt für Schritt.

Das Modell zeigt den Rechenweg und die Antwort.

Reasoning in Agenten einsetzen

Reasoning-Modelle eignen sich gut für Planungsaufgaben in Agenten. Ein Agent kann einen Plan in Einzelschritte zerlegen und jeden Schritt prüfen. Das reduziert Fehler bei komplexen Workflows.

Beispielworkflow:

1. Ziel definieren.
2. Modell plant Schritte.
3. Jeder Schritt wird ausgeführt und validiert.
4. Bei Fehlern wird neu geplant.
5. Endergebnis wird zusammengefasst.

Typische Stolpersteine bei Reasoning-Modellen

• Hoher Rechenaufwand: Längere Antworten brauchen mehr Zeit.
• Übermäßiges Denken: Modell denkt zu lange über einfache Fragen.
• Nicht immer richtig: Reasoning verbessert Qualität, garantiert sie nicht.
• Großes Modell nötig: Kleinere Distill-Versionen schwächer.
• Deutsche Qualität variiert: Einige Modelle sind stark auf Englisch optimiert.
• Schwierige Evaluation: Schwer zu prüfen, ob der Denkprozess sinnvoll ist.

Weiterführende Links und Infos

• BotServ.de Textmodelle
• BotServ.de Coding-Modelle
• BotServ.de KI-Agenten
• BotServ.de Ollama
• DeepSeek

FAQ: Reasoning-Modelle

Brauche ich immer ein Reasoning-Modell? Nein. Für einfache Aufgaben sind normale Textmodelle schneller und ausreichend.

Sind Reasoning-Modelle langsamer? Ja, weil sie längere Antworten erzeugen und mehr berechnen.

Welches Modell für Mathe? DeepSeek-R1 und QwQ sind gute Kandidaten.

Kann ich Reasoning mit normalem Modell erzwingen? Ja, mit Prompts wie “Denke Schritt für Schritt”. Dedizierte Reasoning-Modelle sind aber oft besser.

Wie viel VRAM für DeepSeek-R1 32B? Etwa 20-24 GB, je nach Quantisierung.

Quellen und weiterführende Literatur

• DeepSeek-R1: https://www.deepseek.com/
• QwQ: https://qwenlm.github.io/
• Chain-of-Thought: https://arxiv.org/abs/2201.11903

Zusammenfassung: Reasoning-Modelle für lokale KI

Reasoning-Modelle denken in Schritten und sind ideal für Mathe, Logik, Planung und komplexe Probleme. DeepSeek-R1 und QwQ sind führende Open-Source-Optionen. Lokal betrieben bleiben sensible Daten intern. Wichtig sind ausreichend VRAM, Geduld bei längeren Antworten und richtige Erwartungen: Reasoning verbessert Qualität, garantiert aber keine Fehlerfreiheit.