Entwicklungs-Tools: Frameworks und Bibliotheken
Was dieser Artikel behandelt
- Was Entwicklungs-Tools im KI-Umfeld ausmacht.
- Die wichtigsten Begriffe: Framework, Library, RAG, Chain, Agent und mehr.
- Einen Überblick über populäre Werkzeuge wie LangChain und LlamaIndex.
- Für wen diese Tools gedacht sind.
- Wo Du auf BotServ.de passende Vertiefungen findest.
Einleitung
Wenn Du aus lokalen Sprachmodellen mehr als nur einen Chatbot machen willst, kommst Du früher oder später an den Punkt, an dem Du Dich wiederholende Aufgaben in Code gießen musst. Anfragen formatieren, Dokumente laden, Vektorspeicher befragen, externe APIs einbinden: All das macht man nicht nur einmal, sondern immer wieder. Genau hier setzen Entwicklungs-Tools an.
Sie liefern vorgefertigte Bausteine, auf die Du aufsetzen kannst. Statt jedes Detail selbst zu schreiben, verbindest Du bestehende Komponenten mit wenigen Zeilen Code. Das ist besonders hilfreich, wenn Du in Python oder TypeScript unterwegs bist und schnell einen Proof of Concept bauen willst. In diesem Artikel schaffen wir eine gemeinsame Begriffsbasis und zeigen Dir, welche Frameworks es gibt und wohin sie Dich führen.
Wichtige Begriffe
| Begriff | Kurzerklärung |
|---|---|
| Framework | Ein Programmiergerüst mit vorgefertigten Komponenten und Konventionen. |
| Library | Eine Sammlung wiederverwendbarer Funktionen und Klassen. |
| Orchestration | Das Zusammenschalten mehrerer Arbeitsschritte zu einem Ablauf. |
| Chain | Eine Kette aus aufeinanderfolgenden Schritten, etwa Prompt, Aufruf und Antwort. |
| Prompt | Die Eingabe, die Du einem Language Model gibst. |
| RAG | Retrieval-Augmented Generation, also das Anreichern der Modellantwort mit eigenen Daten. |
| Agent | Ein Programm, das eigenständig Entscheidungen trifft und Tools nutzt. |
| Tool-Calling | Der Aufruf externer Funktionen durch ein Language Model. |
| Vector Store | Eine Datenbank für semantische Embeddings. |
| Document Loader | Ein Modul, das Dateien in ein verarbeitbares Format bringt. |
Inhalt
Die wichtigsten Vertreter in dieser Kategorie sind kurz vorgestellt. LangChain besprechen wir separat, weil es am weitesten verbreitet ist und eigene Konzepte mitbringt.
LangChain
LangChain ist ein Framework in Python und JavaScript, das Ketten, Prompt Templates, Output Parser, Retriever und Agenten vereint. Es eignet sich hervorragend, um in wenigen Code-Zeilen ein LLM mit Datenquellen zu verbinden. Mehr Details, Installation und erste Beispiele findest Du im Artikel LangChain.
LangGraph
LangGraph baut auf LangChain auf und fügt zustandsbasierte Graphen hinzu. Es ist hilfreich, wenn Du komplexe Abläufe mit Schleifen, Verzweigungen und Gedächtnis modellieren willst. Für Multi-Agent- und Workflows findest Du mehr unter LangGraph.
LangFlow
LangFlow bietet eine visuelle Oberfläche, mit der Du LangChain-Abläufe per Drag-and-Drop zusammenklicken kannst. Das ist praktisch, um schnell Prototypen zu zeigen oder Abläufe zu verstehen, ohne tief in Code einzusteigen. Eine Einführung gibt es bei LangFlow.
LlamaIndex
LlamaIndex konzentriert sich besonders stark auf RAG und den Umgang mit eigenen Daten. Es bietet viele Document Loader, Vector Store-Integrationen und Query-Engines. Wenn Dein Fokus auf Wissensbasen liegt, ist LlamaIndex einen Blick wert. Details findest Du im Artikel LlamaIndex. Mehr zum Thema RAG liest Du in Lokales RAG und RAG Grundlagen.
Haystack
Haystack ist ein Python-Framework für end-to-end NLP-Pipelines. Es eignet sich besonders für Suchanwendungen und RAG mit Retrievern, Readern und Generatoren. Eine Einführung mit Beispielen findest Du im Artikel Haystack.
DSPy
DSPy macht Prompt Engineering programmatisch: Statt Prompts per Hand zu optimieren, definierst Du Module und lässt DSPy automatisch die besten Prompts finden. Für komplexere RAG- und Agenten-Pipelines lohnt sich ein Blick in den Artikel DSPy.
Für wen ist dieser Artikel gedacht?
Diese Übersicht richtet sich an Dich, wenn Du bereits erste Erfahrung mit Python oder JavaScript hast und Deine KI-Anwendung über reine Chat-Prompts hinaus erweitern willst. Du brauchst noch kein Experte für lokale Modelle zu sein, solltest aber verstehen, was ein API-Aufruf ist und wie man Bibliotheken installiert. Wenn Du lieber alles lokal auf eigener Hardware laufen lassen willst, passen die meisten Frameworks dank Ollama und ähnlicher Werkzeuge auch dafür.
FAQ
Was ist der Unterschied zwischen einem Framework und einer Library?
Eine Library ist eine Sammlung von Funktionen, die Du nach Bedarf einbindest. Ein Framework gibt zusätzlich Struktur vor: Du füllt vorgegebene Stellen mit eigener Logik aus und folgt damit bestimmten Konventionen.
Kann ich mehrere Frameworks gleichzeitig nutzen?
Ja. Viele Projekte kombinieren LangChain für die Orchestration mit LlamaIndex für Datenaufbereitung oder LangGraph für komplexere Workflows. Wichtig ist, dass Du nicht unnötig viele Schichten stapelst.
Brauche ich LangChain, um RAG zu bauen?
Nein. RAG kannst Du auch von Hand bauen oder mit LlamaIndex umsetzen. LangChain ist eine komfortable Option, weil es viele Integrationen in einem einheitlichen Interface bietet.
Sind diese Tools kostenlos?
Die Bibliotheken selbst sind Open Source und kostenlos. Kosten entstehen bei Cloud-APIs oder Cloud-Hosted Vector Stores. Lokal betrieben zahlst Du lediglich für Deine eigene Hardware und Strom.
Welches Framework ist für Anfänger geeignet?
LangChain hat den größten Fundus an Tutorials und Beispielen. LlamaIndex ist besonders klar, wenn RAG im Mittelpunkt steht. LangFlow ist gut, um visuell zu experimentieren.