Sprachassistent selber bauen: lokal mit Whisper, Ollama und Piper

Ein Sprachassistent ohne Cloud braucht drei Modelle: Whisper hört zu, ein Sprachmodell antwortet, Piper liest vor. Speicher, gemessenes Tempo und unsere Grenzen.

Stand: 2026-11-03

Einen Sprachassistenten selber zu bauen heißt, drei Modelle hintereinander arbeiten zu lassen: Eines hört zu und schreibt mit, eines antwortet, eines liest die Antwort vor. Läuft alles zu Hause oder im Büro auf Ihrem eigenen Rechner, geht keine Aufnahme an einen fremden Dienst.

Die drei Teile

SchrittModellSpeicher laut Katalog
HörenWhisper small, Stufe q5_1rund 0,6 GB
HörenWhisper large-v3-turbo, Stufe q5_0rund 1,0 GB
VorlesenPiper Thorsten (medium)rund 0,3 GB
VorlesenPiper Kerstin (low)rund 0,2 GB
Antwortenein Sprachmodell Ihrer Wahl; was auf Ihr Gerät passt, zeigt die Geräteseiteje nach Modell

Die Speicherwerte sind die Datei der Stufe plus das, was das Programm beim Laufen zusätzlich belegt. Diesen Zuschlag haben wir am 17. Oktober 2026 selbst gemessen, mit whisper.cpp und piper-tts; wie, steht unter So rechnen wir. Für Whisper und Piper nennen die Anbieter Deutsch; wie gut sie es erkennen oder sprechen, haben wir nicht geprüft. Alle Audiomodelle stehen unter Transkribieren und vorlesen.

So rechnen Sie den Speicher zusammen

Hören und Vorlesen zusammen brauchen rund 0,9 GB mit Whisper small und Thorsten, rund 1,2 GB mit Whisper large-v3-turbo und Thorsten. Die Summen rechnen wir mit den ungerundeten Katalogwerten (0,98 und 0,26 GB), deshalb 1,2 und nicht 1,3 GB. Was übrig bleibt, hat das Sprachmodell.

Ein Beispiel: Auf dem Geekom Air12 Lite mit Intel N100 und 16 GB rechnen wir mit rund 10,0 GB, die für Modelle nutzbar sind. Laufen Whisper small und Thorsten daneben, bleiben für das Sprachmodell rund 9,1 GB. Auf der Geräteseite steht für jedes Sprachmodell, wie viel Speicher es braucht; nehmen Sie eines, das mit Abstand in diesen Rest passt. Auf einem Gerät mit eigener Grafikkarte belegt Piper Arbeitsspeicher, nicht Grafikspeicher; vom Grafikspeicher ziehen Sie dort nur Whisper ab, wenn es auf der Karte läuft. Der Speicherbedarf hängt außerdem an der Kontextlänge: Die Geräteseite rechnet zunächst mit 4.096 Token, der kürzesten Stufe. Laut Home Assistant stellt seine Ollama-Anbindung von sich aus 8k ein, ändern lässt sich das in den Einstellungen; wählen Sie dann auf der Geräteseite unter „Mit anderer Kontextlänge rechnen“ 8.192.

Die Rechnung gilt, wenn alle drei Modelle gleichzeitig geladen bleiben, damit der Assistent ohne Ladezeit antwortet. Lädt Ihr Aufbau jedes Modell erst bei Bedarf, braucht er weniger Speicher und antwortet langsamer. Die Werte stammen aus Einzelläufen je Programm; zusammen laufen lassen haben wir die drei nicht, auch nicht als Dienst.

Was wir zum Tempo wissen

Für Spracherkennung und Sprachausgabe rechnen wir auf den Geräteseiten kein Tempo, nur den Speicher. Gemessen haben wir das Tempo am 17. Oktober 2026 auf einem einzigen Rechner, einem Schreibtischrechner mit Ryzen 7 7700X und der Grafikkarte AMD Radeon AI PRO R9700. Auf dem Prozessor:

  • Piper Thorsten (medium) brauchte für einen deutschen Satz rund ein Zwölftel der Zeit, die der Satz gesprochen dauert (drei Läufe).
  • Whisper small brauchte für eine deutsche Aufnahme von knapp 9 Minuten rund ein Sechstel ihrer Länge, Whisper large-v3-turbo gut die Hälfte (je ein Lauf, whisper.cpp 1.9.5 in der Voreinstellung, also mit 4 von 16 Threads).

Auf der Grafikkarte brauchten beide Whisper-Modelle für dieselbe Aufnahme rund ein Vierzigstel ihrer Länge (je drei Läufe). Piper haben wir nur auf dem Prozessor gemessen.

Ein Mini-PC mit Intel N100 hat einen deutlich kleineren Prozessor. Gemessen haben wir dort nicht. Einen Anhaltspunkt gibt eine veröffentlichte Messung auf dem Intel N97 aus derselben Prozessorklasse: whisper.cpp brauchte mit dem Modell base für 10,6 Sekunden Aufnahme rund 15,6 Sekunden, mit tiny rund 5,6 Sekunden, das Laden des Modells eingerechnet; die Sprache der Aufnahme ist nicht angegeben (Messung auf GitHub). Für Piper berichtet ein Anwender auf einem N100 rund 2 Sekunden je Antwort, ohne Textlänge und Stimme zu nennen (Beitrag im Home-Assistant-Forum). Das sind einzelne Messungen fremder Aufbauten, keine von uns. Startet das Programm für jeden kurzen Satz neu, wiegt außerdem das Laden mehr als bei einer langen Aufnahme. Haben Sie vor dem Kauf Zugang zu einem Gerät derselben Klasse, probieren Sie einen kurzen Satz aus.

Wie schnell das Sprachmodell antwortet, rechnen wir dagegen für jedes Gerät; die Tempowerte stehen auf der Geräteseite. Bei einem Gerät ohne eigene Grafikkarte, wie diesem Mini-PC, rechnen wir nur mit dem Prozessor. Die Tempowerte tragen dort ein Sternchen, weil wir für Prozessoren keinen Abgleich an Messungen haben. Der Wert zählt geschriebene Token. Die Zeit bis zum ersten Wort kommt dazu, und auf einem Prozessor teilen sich alle drei Modelle dieselben Kerne; beides rechnen wir nicht.

Strom im Dauerbetrieb

Ein Sprachassistent läuft rund um die Uhr, deshalb zählt der Stromverbrauch. Die Leistungsaufnahme führen wir für kein Gerät, und gemessen haben wir sie nicht. Auf den Geräteseiten steht deshalb „nicht gemessen“.

Verlässlich ist eine Messung an Ihrem eigenen Gerät. Stecken Sie ein Strommessgerät zwischen Steckdose und Netzteil und lesen Sie zweimal ab: im Leerlauf, wenn der Assistent nur wartet, und während er antwortet. Der Leerlauf bestimmt meist den Verbrauch über das Jahr, weil der Assistent die meiste Zeit wartet. Aus der Leistung in Watt, den Stunden und Ihrem Strompreis je Kilowattstunde rechnen Sie die Kosten; ein Rechenbeispiel steht im Ratgeber zu den Kosten von ChatGPT und eigener Hardware.

Raspberry Pi und andere Einplatinenrechner

Den Raspberry Pi und andere Einplatinenrechner mit ARM-Prozessor führen wir nicht. Auch der Rechner mit eigenen Angaben gilt für sie nicht: Seine Annahmen zum Speicher stammen von Geräten mit Prozessoren von Intel und AMD, bei fest verlötetem Speicher etwa ein 128 Bit breiter Speicherbus wie in den Notebooks unseres Katalogs. Für einen Pi wäre das Ergebnis geraten.

Eigene Zahlen haben wir deshalb nicht. Home Assistant nennt für den Raspberry Pi 4 rund 8 Sekunden, bis Whisper einen Sprachbefehl verarbeitet hat, und für Piper in mittlerer Qualität auf einem Raspberry Pi 1,6 Sekunden Sprache je Sekunde Rechenzeit. Das sind Angaben von Home Assistant, ohne genannte Modellgröße, und keine Messung von uns. Whisper nennt Home Assistant nur dann eine gute Wahl, wenn die Hardware leistungsfähig ist und der Assistent über einfache Befehle hinausgehen soll. Einen Wert für das antwortende Sprachmodell nennt es dort nicht.

Die drei Programme starten

Jeder der drei Schritte hat ein eigenes Programm. Die Startbefehle stehen auf den Modellseiten unter „So starten Sie es“:

  • Hören mit whisper.cpp. Wichtig ist der Schalter -l de, sonst geht whisper.cpp von Englisch aus. Einrichtung und Grenzen von Whisper stehen im Ratgeber Whisper lokal; für einen Assistenten, den mehrere Programme ansprechen, bringt whisper.cpp whisper-server mit, das Aufnahmen über HTTP annimmt und ebenfalls -l de braucht.
  • Antworten mit Ollama oder llama.cpp; der Befehl steht auf der Seite des Sprachmodells.
  • Vorlesen mit Piper:
python3 -m venv piper && . piper/bin/activate && pip install piper-tts
python3 -m piper.download_voices de_DE-thorsten-medium
python3 -m piper -m de_DE-thorsten-medium -f ausgabe.wav -- 'Guten Tag.'

Auf Ubuntu 24.04 scheiterte bei unserer Messung python3 -m venv, weil das Paket python3-venv fehlte; die Fehlermeldung nennt dieses Paket als Abhilfe. Diesen Weg haben wir nicht durchlaufen.

Das Verbinden bleibt Ihre Sache: Ein eigenes Programm nimmt die Aufnahme entgegen, reicht sie weiter und spielt die Antwort ab. Ein Aktivierungswort und das Mikrofon kommen dazu; beides ist hier nicht gerechnet.

Fertig verbunden: Home Assistant

Wer die Programme nicht selbst verbinden will, schaut sich Home Assistant an. Laut Home Assistant läuft seine Kette aus Spracherkennung, Befehlsauswertung und Sprachausgabe ganz auf der eigenen Hardware; die Anleitung setzt das Home Assistant Operating System voraus. Für die Spracherkennung gibt es dort zwei Wege:

  • Speech-to-Phrase erkennt nur Sätze, die es kennt. Laut Home Assistant reicht es für einfache Befehle ans Smart Home; Einkaufslisten oder Timer mit eigenem Namen gehen ohne Weiteres nicht.
  • Whisper versucht alles mitzuschreiben und ist die Wahl, wenn ein Sprachmodell antworten soll. Home Assistant bindet es über wyoming-faster-whisper an, eine andere Umsetzung als whisper.cpp; für sie gelten unsere Speicherwerte nicht.

Vorgelesen wird mit Piper, über wyoming-piper. Ein Sprachmodell gehört nicht zu dieser Kette: Es lässt sich als eigener Ollama-Server anbinden. Dass das Modell dabei auch Geräte im Haus steuert, nennt Home Assistant eine experimentelle Funktion. Steuern können nur Modelle, die Werkzeuge unterstützen; Home Assistant rät zu weniger als 25 freigegebenen Geräten und warnt, dass kleinere Modelle eher Fehler machen.

Wenn es geschäftlich wird

Soll ein Sprachassistent im Unternehmen laufen, etwa am Empfang oder im Lager, geht es um mehr als drei Modelle: wer mithört, ob Aufnahmen gespeichert werden, was dokumentiert werden muss. Für diesen Schritt gibt es die KI-Implementierung von Minoka.

Quellen

Fazit

Kurz gesagt

Ein Sprachassistent auf dem eigenen Rechner besteht aus drei Teilen: Whisper schreibt mit, was Sie sagen, ein Sprachmodell antwortet, Piper liest die Antwort vor. Hören und Vorlesen sind klein, mit Whisper small und der Piper-Stimme Thorsten zusammen rund 0,9 GB Speicher; den Rest bestimmt das Sprachmodell, und das zeigt die Seite Ihres Geräts. Wer die Teile nicht selbst verbinden will, schaut sich Home Assistant an; das Sprachmodell bindet man dort als eigenen Ollama-Server an. Das Tempo von Hören und Vorlesen haben wir nur auf einem einzigen Schreibtischrechner gemessen, Strom im Dauerbetrieb gar nicht, und den Raspberry Pi führen wir nicht.

Häufige Fragen

Wie viel Speicher braucht ein Sprachassistent?

Hören und Vorlesen brauchen zusammen rund 0,9 GB mit Whisper small und der Piper-Stimme Thorsten, rund 1,2 GB mit Whisper large-v3-turbo. Dazu kommt das Sprachmodell, das antwortet; wie viel Speicher es auf einem bestimmten Gerät braucht, steht auf der Geräteseite von welche.ai.

Quellen: welche.ai, Speicher der Audiomodelle · welche.ai, Transkribieren und Vorlesen

Kann Home Assistant als lokaler Sprachassistent dienen?

Ja. Laut Home Assistant läuft seine Kette aus Spracherkennung, Befehlsauswertung und Sprachausgabe ganz auf der eigenen Hardware. Ein Sprachmodell gehört nicht dazu: Es lässt sich als eigener Ollama-Server anbinden. Für die Spracherkennung nennt Home Assistant zwei Wege: Speech-to-Phrase für einfache Befehle ans Smart Home und Whisper für alles, was darüber hinausgeht.

Quellen: Home Assistant, Sprachassistent ganz lokal einrichten · Home Assistant, Anbindung an Ollama

Wie viel Strom braucht ein Sprachassistent im Dauerbetrieb?

welche.ai hat das nicht gemessen und führt die Leistungsaufnahme für kein Gerät. Verlässlich ist eine Messung am Gerät selbst: ein Messgerät zwischen Steckdose und Netzteil, einmal im Leerlauf und einmal während einer Antwort.

Quelle: welche.ai, Grenzen der Rechnung

Läuft ein lokaler Sprachassistent auf einem Raspberry Pi?

Eigene Zahlen hat welche.ai dazu nicht: Der Raspberry Pi steht nicht im Katalog, und der Rechner mit eigenen Angaben gilt für ihn nicht. Home Assistant nennt für den Raspberry Pi 4 rund 8 Sekunden, bis Whisper einen Sprachbefehl verarbeitet hat, und nennt Whisper nur dann eine gute Wahl, wenn die Hardware leistungsfähig ist und der Assistent über einfache Befehle hinausgehen soll. Für einfache Befehle ans Smart Home nennt es dort Speech-to-Phrase mit unter einer Sekunde. Ein Wert für das antwortende Sprachmodell steht dort nicht.

Quellen: Home Assistant, Sprachassistent ganz lokal einrichten · welche.ai, Rechner mit eigenen Angaben

Weitere Ratgeber