Konzepte: Grundlagen hinter KI, Agenten und Self-Hosting
Was dieser Artikel behandelt
- Die Grundideen hinter lokaler KI, Agenten und Self-Hosting.
- Verweise auf die passenden Artikel für jedes Konzept.
- Wie die Konzepte zusammenhängen.
Einleitung
Tutorials zeigen das Wie. Dieser Bereich erklärt das Was und Warum. Wer die Konzepte versteht, kann Tools besser auswählen und Fehler schneller finden. Die folgenden Themen sind die Bausteine, aus denen fast alles auf BotServ besteht.
Lokale KI: Warum lokal statt Cloud?
Lokale KI läuft auf Deinem Gerät statt auf einem Server eines Anbieters. Die Konsequenzen:
- Datenschutz: Prompts und Dokumente bleiben lokal. Wichtig für sensible Daten.
- Kosten: Einmalige Hardware-Investition statt laufender API-Kosten.
- Unabhängigkeit: Kein Vendor Lock-in, keine Preiserhöhungen, keine Ausfälle durch Dritte.
- Kontrolle: Du bestimmst Modell, Version und Parameter.
Einstieg: Was ist lokale KI? und Lokale KI vs Cloud-KI.
Sprachmodelle und Quantisierung
Ein Sprachmodell (LLM) ist ein neuronales Netz, das Text vorhersagt. Die Größe wird in Parametern angegeben (7B = 7 Milliarden). Damit das Modell in den Arbeitsspeicher passt, wird es quantisiert: Genauigkeit der Gewichte wird reduziert, z.B. von 16 auf 4 Bit.
Einstieg: Quantisierung, RAM vs VRAM und Modellgröße und Speicherbedarf.
RAG: Wissen nachladen statt neu trainieren
Retrieval-Augmented Generation bedeutet: Das Modell bekommt Fragen nicht nur aus seinem Gedächtnis beantwortet, sondern holt relevante Dokumente aus einer Datenbank. So kann eine lokale KI Deine eigenen Unterlagen beantworten, ohne dass sie im Training waren.
Der Ablauf:
- Dokumente werden in kleine Stücke (Chunks) geschnitten.
- Jedes Chunk wird zu einem Embedding (Zahlenvektor) umgewandelt.
- Bei einer Frage wird das Embedding der Frage mit den Dokumenten-Embeddings verglichen.
- Die ähnlichsten Chunks werden dem Modell als Kontext mitgegeben.
Einstieg: Lokales RAG, Embedding-Modelle und Vektordatenbanken.
KI-Agenten: Modelle, die handeln können
Ein KI-Agent ist mehr als ein Chatbot: Er kann Tools aufrufen, Entscheidungen treffen und Aufgaben in Schritten abarbeiten. Das bekannteste Pattern ist ReAct: Reason (denken) → Act (Tool aufrufen) → Observe (Ergebnis lesen) → wieder von vorn.
Einstieg: Was ist ein KI-Agent?, Tool-Calling und Multi-Agent-Systeme.
Self-Hosting: Dienste auf eigener Hardware
Self-Hosting bedeutet, Software wie Nextcloud, n8n oder Open WebUI auf eigener Hardware oder einem gemieteten Server zu betreiben statt fertige Cloud-Dienste zu nutzen. Vorteile: Datenschutz, Kontrolle, Lernen. Kosten: Wartung und Verantwortung.
Einstieg: Self-Hosting Grundlagen, Docker Grundlagen und Homelab.
Sicherheit: Prompt Injection und Zugriff
Lokale KI ist nicht automatisch sicher. Prompt Injection, unsichere Tool-Aufrufe und offene Ports sind reale Risiken. Der Bereich Sicherer Betrieb behandelt das systematisch: von Zugriffsschutz über Secrets-Management bis zu Agenten-Sicherheit.
Weiterführende Links
- Glossar - Einzelbegriffe verständlich erklärt.
- Literatur - Bücher, Papers und Blogs.
- Lokale KI - Der Hauptbereich für den Eigenbetrieb.
- KI-Agenten - Agenten, Frameworks und Workflows.
FAQ - Häufige Fragen
In welcher Reihenfolge sollte ich die Konzepte lernen? Erst lokale KI verstehen, dann Quantisierung und Modellauswahl. Danach RAG, dann Agenten. Self-Hosting kann parallel laufen, wenn Du Tools wie Ollama auf eigenem Server betreiben willst.
Sind die Konzepte nur für Fortgeschrittene? Nein. Alle Konzepte sind für Einsteiger erklärt. Die Links führen zu Artikeln, die ohne Vorkenntnisse funktionieren.
Was ist der Unterschied zwischen Konzept und Tutorial? Konzepte erklären Ideen und Zusammenhänge. Tutorials zeigen Schritt für Schritt, wie man etwas installiert oder konfiguriert. Hier findest Du die Konzepte, unter den jeweiligen Bereichen die Tutorials.