Lokaler Sprachassistent

Was dieser Artikel über lokale Sprachassistenten behandelt

• Wie ein lokaler Sprachassistent aufgebaut ist.
• Welche Komponenten für Spracheingabe, Verarbeitung und Ausgabe nötig sind.
• Welche Tools sich für den Eigenbau eignen.
• Wie man Latenz, Hardware und Datenschutz optimiert.
• Typische Stolpersteine und Best Practices.

Einleitung: Lokaler Sprachassistent

Sprachassistenten wie Alexa, Siri oder Google Assistant sind bequem, aber sie senden Audiodaten in die Cloud. Wer einen lokalen Sprachassistenten baut, behält die volle Kontrolle. So ein Projekt verbindet Spracherkennung, Verarbeitung durch ein lokales Sprachmodell und Sprachausgabe. Das Ergebnis ist ein Assistent, der offline funktioniert und keine Daten an externe Anbieter sendet.

Der Bau eines lokalen Sprachassistenten ist anspruchsvoller als ein simpler Chatbot. Er verbindet mehrere Disziplinen: Audioverarbeitung, künstliche Intelligenz, Prompting und eventuell Heimautomatisierung. Wer die Komponenten versteht, kann sich aber einen leistungsfähigen Assistenten maßschneidern.

Warum brauche ich einen lokalen Sprachassistenten?

Gründe:

• Datenschutz: Gesprochenes bleibt im eigenen Netzwerk.
• Offline-Nutzung: Funktioniert ohne Internet.
• Anpassbarkeit: Eigene Befehle, Stimmen und Workflows.
• Keine Abos: Keine monatlichen Kosten.
• Integration: Verbindung mit Home Assistant, Lichtern, Musik und mehr.

Architektur eines lokalen Sprachassistenten

Ein Sprachassistent besteht aus drei Hauptteilen:

1. Speech-to-Text: Wandelt Sprache in Text.
2. Verarbeitung: Ein LLM oder Dialogsystem versteht die Anfrage.
3. Text-to-Speech: Macht Antworten hörbar.

Optional kommen hinzu:

• Wake Word Detection: Erkennt ein Aktivierungswort.
• Voice Activity Detection: Erkennt, wann jemand spricht.
• Skill-System: Erweiterbare Aktionen.
• Heimautomatisierung: Anbindung an Smart-Home-Systeme.

Wichtige Begriffe

• STT: Speech-to-Text.
• TTS: Text-to-Speech.
• VAD: Voice Activity Detection.
• Wake Word: Aktivierungswort.
• Intent: Erkannte Absicht.
• Slot: Parameter in einem Befehl.
• Pipeline: Ablauf von Spracheingabe bis Ausgabe.
• Hotword: Anderer Begriff für Wake Word.

Für wen ist ein lokaler Sprachassistent gedacht?

• Für technikbegeisterte Selbstbastler.
• Für Datenschützer.
• Für Smart-Home-Nutzer.
• Für Menschen mit Mobilitätseinschränkungen.
• Für Unternehmen mit speziellen Anforderungen.

Tools für lokale Sprachassistenten

• Whisper: Open-Source-Spracherkennung.
• faster-whisper: Schnellere Whisper-Version.
• Piper: Schnelle, lokale TTS-Engine.
• Coqui TTS: Flexible TTS-Bibliothek.
• Ollama oder llama.cpp: Läuft lokale LLMs.
• Home Assistant: Smart-Home-Integration.
• Rhasspy oder OpenVoiceOS: Vorkonfigurierte lokale Assistenten-Plattformen.

Aufbau Schritt für Schritt

1. Hardware wählen

Man braucht ein Mikrofon, einen Lautsprecher und einen Rechner. Für Echtzeit ist eine GPU oder Apple Silicon hilfreich. Für einfache Tests reicht ein moderner Prozessor.

2. Wake Word einrichten

Tools wie Porcupine oder openWakeWord erkennen ein Aktivierungswort. Damit lauscht das System stromsparend und springt erst bei Bedarf an.

3. STT einbinden

Whisper oder faster-whisper transkribiert die Anfrage. Für Echtzeit nutzt man kleine Modelle und unterteilt Audiodaten in kurze Segmente.

4. Verarbeitung mit LLM

Das transkribierte Kommando wird an ein lokales LLM weitergegeben. Ein Prompt enthält beispielsweise Systemanweisungen und verfügbare Kommandos.

5. TTS ausgeben

Piper oder Coqui TTS spricht die Antwort aus. Je nach Hardware kann man auf Geschwindigkeit oder natürliche Stimme optimieren.

6. Aktionen ausführen

Wenn der Assistent beispielsweise Licht einschalten soll, wird ein Befehl an Home Assistant oder eine eigene API gesendet.

Optimierung

• Latenz reduzieren: Kleine STT- und TTS-Modelle, schnelle SSD, GPU-Offloading.
• Genauigkeit erhöhen: Gute Mikrofone, rauscharme Umgebung.
• Energie sparen: Wake-Word-Erkennung im Vordergrund, erst bei Bedarf LLM laden.
• Wortschatz: Wichtige Befehle und Synonyme trainieren oder im Prompt hinterlegen.

Typische Stolpersteine

• Hohe Latenz: Große Modelle verzögern die Antwort.
• Schlechte Mikrofone: Hintergrundgeräusche und Echo stören.
• Unbekannte Wake Words: Aussprache variiert.
• Fehlende Skills: Assistent kennt keine Aktionen.
• Zu viele Befehle: Überladene Prompts verwirren das Modell.
• Sprachausgabe unnatürlich: TTS-Modell anpassen.

Weiterführende Links und Infos

• BotServ.de KI-gestützte Sprachanwendungen
• BotServ.de Audioverarbeitung
• BotServ.de Heimautomatisierung
• OpenVoiceOS

FAQ: Lokaler Sprachassistent

Brauche ich eine Grafikkarte? Für Echtzeit und hohe Qualität ja. Für Prototypen und einfache Befehle reicht oft eine CPU.

Funktioniert der Assistent offline? Ja, wenn alle Komponenten lokal laufen. Externe APIs dürfen nicht benötigt werden.

Welche Sprachen werden unterstützt? Deutsche Whisper-Modelle und deutsche TTS-Stimmen sind verfügbar. Englisch hat oft mehr Auswahl.

Kann ich den Assistenten mit Home Assistant verbinden? Ja, über Webhooks oder MQTT.

Ist der Bau komplex? Ein einfacher Prototyp ist schnell gemacht. Ein robuster Assistent mit vielen Skills erfordert Zeit.

Quellen und weiterführende Literatur

• Whisper: https://github.com/openai/whisper
• Piper: https://github.com/rhasspy/piper
• OpenVoiceOS: https://openvoiceos.com/
• Home Assistant: https://www.home-assistant.io/

Zusammenfassung: Lokaler Sprachassistent

Ein lokaler Sprachassistent verbindet STT, LLM und TTS mit eigenen Skills und Smart-Home-Aktionen. Er funktioniert offline, schützt die Privatsphäre und ist flexibel erweiterbar. Wichtig sind gute Hardware, schnelle Modelle, Wake-Word-Erkennung und saubere Integration. Wer die Latenz im Blick behält, bekommt einen Assistenten, der mit kommerziellen Lösungen mithalten kann, ohne Daten preiszugeben.