Sprachassistent selber bauen: lokal mit Whisper, Ollama und Piper
Ein Sprachassistent ohne Cloud braucht drei Modelle: Whisper hört zu, ein Sprachmodell antwortet, Piper liest vor. Speicher, gemessenes Tempo und unsere Grenzen.
Stand: 2026-11-03
Einen Sprachassistenten selber zu bauen heißt, drei Modelle hintereinander arbeiten zu lassen: Eines hört zu und schreibt mit, eines antwortet, eines liest die Antwort vor. Läuft alles zu Hause oder im Büro auf Ihrem eigenen Rechner, geht keine Aufnahme an einen fremden Dienst.
Die drei Teile
| Schritt | Modell | Speicher laut Katalog |
|---|---|---|
| Hören | Whisper small, Stufe q5_1 | rund 0,6 GB |
| Hören | Whisper large-v3-turbo, Stufe q5_0 | rund 1,0 GB |
| Vorlesen | Piper Thorsten (medium) | rund 0,3 GB |
| Vorlesen | Piper Kerstin (low) | rund 0,2 GB |
| Antworten | ein Sprachmodell Ihrer Wahl; was auf Ihr Gerät passt, zeigt die Geräteseite | je nach Modell |
Die Speicherwerte sind die Datei der Stufe plus das, was das Programm beim Laufen zusätzlich belegt. Diesen Zuschlag haben wir am 17. Oktober 2026 selbst gemessen, mit whisper.cpp und piper-tts; wie, steht unter So rechnen wir. Für Whisper und Piper nennen die Anbieter Deutsch; wie gut sie es erkennen oder sprechen, haben wir nicht geprüft. Alle Audiomodelle stehen unter Transkribieren und vorlesen.
So rechnen Sie den Speicher zusammen
Hören und Vorlesen zusammen brauchen rund 0,9 GB mit Whisper small und Thorsten, rund 1,2 GB mit Whisper large-v3-turbo und Thorsten. Die Summen rechnen wir mit den ungerundeten Katalogwerten (0,98 und 0,26 GB), deshalb 1,2 und nicht 1,3 GB. Was übrig bleibt, hat das Sprachmodell.
Ein Beispiel: Auf dem Geekom Air12 Lite mit Intel N100 und 16 GB rechnen wir mit rund 10,0 GB, die für Modelle nutzbar sind. Laufen Whisper small und Thorsten daneben, bleiben für das Sprachmodell rund 9,1 GB. Auf der Geräteseite steht für jedes Sprachmodell, wie viel Speicher es braucht; nehmen Sie eines, das mit Abstand in diesen Rest passt. Auf einem Gerät mit eigener Grafikkarte belegt Piper Arbeitsspeicher, nicht Grafikspeicher; vom Grafikspeicher ziehen Sie dort nur Whisper ab, wenn es auf der Karte läuft. Der Speicherbedarf hängt außerdem an der Kontextlänge: Die Geräteseite rechnet zunächst mit 4.096 Token, der kürzesten Stufe. Laut Home Assistant stellt seine Ollama-Anbindung von sich aus 8k ein, ändern lässt sich das in den Einstellungen; wählen Sie dann auf der Geräteseite unter „Mit anderer Kontextlänge rechnen“ 8.192.
Die Rechnung gilt, wenn alle drei Modelle gleichzeitig geladen bleiben, damit der Assistent ohne Ladezeit antwortet. Lädt Ihr Aufbau jedes Modell erst bei Bedarf, braucht er weniger Speicher und antwortet langsamer. Die Werte stammen aus Einzelläufen je Programm; zusammen laufen lassen haben wir die drei nicht, auch nicht als Dienst.
Was wir zum Tempo wissen
Für Spracherkennung und Sprachausgabe rechnen wir auf den Geräteseiten kein Tempo, nur den Speicher. Gemessen haben wir das Tempo am 17. Oktober 2026 auf einem einzigen Rechner, einem Schreibtischrechner mit Ryzen 7 7700X und der Grafikkarte AMD Radeon AI PRO R9700. Auf dem Prozessor:
- Piper Thorsten (medium) brauchte für einen deutschen Satz rund ein Zwölftel der Zeit, die der Satz gesprochen dauert (drei Läufe).
- Whisper small brauchte für eine deutsche Aufnahme von knapp 9 Minuten rund ein Sechstel ihrer Länge, Whisper large-v3-turbo gut die Hälfte (je ein Lauf, whisper.cpp 1.9.5 in der Voreinstellung, also mit 4 von 16 Threads).
Auf der Grafikkarte brauchten beide Whisper-Modelle für dieselbe Aufnahme rund ein Vierzigstel ihrer Länge (je drei Läufe). Piper haben wir nur auf dem Prozessor gemessen.
Ein Mini-PC mit Intel N100 hat einen deutlich kleineren Prozessor. Gemessen haben wir dort nicht. Einen Anhaltspunkt gibt eine veröffentlichte Messung auf dem Intel N97 aus derselben Prozessorklasse: whisper.cpp brauchte mit dem Modell base für 10,6 Sekunden Aufnahme rund 15,6 Sekunden, mit tiny rund 5,6 Sekunden, das Laden des Modells eingerechnet; die Sprache der Aufnahme ist nicht angegeben (Messung auf GitHub). Für Piper berichtet ein Anwender auf einem N100 rund 2 Sekunden je Antwort, ohne Textlänge und Stimme zu nennen (Beitrag im Home-Assistant-Forum). Das sind einzelne Messungen fremder Aufbauten, keine von uns. Startet das Programm für jeden kurzen Satz neu, wiegt außerdem das Laden mehr als bei einer langen Aufnahme. Haben Sie vor dem Kauf Zugang zu einem Gerät derselben Klasse, probieren Sie einen kurzen Satz aus.
Wie schnell das Sprachmodell antwortet, rechnen wir dagegen für jedes Gerät; die Tempowerte stehen auf der Geräteseite. Bei einem Gerät ohne eigene Grafikkarte, wie diesem Mini-PC, rechnen wir nur mit dem Prozessor. Die Tempowerte tragen dort ein Sternchen, weil wir für Prozessoren keinen Abgleich an Messungen haben. Der Wert zählt geschriebene Token. Die Zeit bis zum ersten Wort kommt dazu, und auf einem Prozessor teilen sich alle drei Modelle dieselben Kerne; beides rechnen wir nicht.
Strom im Dauerbetrieb
Ein Sprachassistent läuft rund um die Uhr, deshalb zählt der Stromverbrauch. Die Leistungsaufnahme führen wir für kein Gerät, und gemessen haben wir sie nicht. Auf den Geräteseiten steht deshalb „nicht gemessen“.
Verlässlich ist eine Messung an Ihrem eigenen Gerät. Stecken Sie ein Strommessgerät zwischen Steckdose und Netzteil und lesen Sie zweimal ab: im Leerlauf, wenn der Assistent nur wartet, und während er antwortet. Der Leerlauf bestimmt meist den Verbrauch über das Jahr, weil der Assistent die meiste Zeit wartet. Aus der Leistung in Watt, den Stunden und Ihrem Strompreis je Kilowattstunde rechnen Sie die Kosten; ein Rechenbeispiel steht im Ratgeber zu den Kosten von ChatGPT und eigener Hardware.
Raspberry Pi und andere Einplatinenrechner
Den Raspberry Pi und andere Einplatinenrechner mit ARM-Prozessor führen wir nicht. Auch der Rechner mit eigenen Angaben gilt für sie nicht: Seine Annahmen zum Speicher stammen von Geräten mit Prozessoren von Intel und AMD, bei fest verlötetem Speicher etwa ein 128 Bit breiter Speicherbus wie in den Notebooks unseres Katalogs. Für einen Pi wäre das Ergebnis geraten.
Eigene Zahlen haben wir deshalb nicht. Home Assistant nennt für den Raspberry Pi 4 rund 8 Sekunden, bis Whisper einen Sprachbefehl verarbeitet hat, und für Piper in mittlerer Qualität auf einem Raspberry Pi 1,6 Sekunden Sprache je Sekunde Rechenzeit. Das sind Angaben von Home Assistant, ohne genannte Modellgröße, und keine Messung von uns. Whisper nennt Home Assistant nur dann eine gute Wahl, wenn die Hardware leistungsfähig ist und der Assistent über einfache Befehle hinausgehen soll. Einen Wert für das antwortende Sprachmodell nennt es dort nicht.
Die drei Programme starten
Jeder der drei Schritte hat ein eigenes Programm. Die Startbefehle stehen auf den Modellseiten unter „So starten Sie es“:
- Hören mit whisper.cpp. Wichtig ist der Schalter
-l de, sonst geht whisper.cpp von Englisch aus. Einrichtung und Grenzen von Whisper stehen im Ratgeber Whisper lokal; für einen Assistenten, den mehrere Programme ansprechen, bringt whisper.cppwhisper-servermit, das Aufnahmen über HTTP annimmt und ebenfalls-l debraucht. - Antworten mit Ollama oder llama.cpp; der Befehl steht auf der Seite des Sprachmodells.
- Vorlesen mit Piper:
python3 -m venv piper && . piper/bin/activate && pip install piper-tts
python3 -m piper.download_voices de_DE-thorsten-medium
python3 -m piper -m de_DE-thorsten-medium -f ausgabe.wav -- 'Guten Tag.'
Auf Ubuntu 24.04 scheiterte bei unserer Messung python3 -m venv, weil das Paket python3-venv fehlte; die Fehlermeldung nennt dieses Paket als Abhilfe. Diesen Weg haben wir nicht durchlaufen.
Das Verbinden bleibt Ihre Sache: Ein eigenes Programm nimmt die Aufnahme entgegen, reicht sie weiter und spielt die Antwort ab. Ein Aktivierungswort und das Mikrofon kommen dazu; beides ist hier nicht gerechnet.
Fertig verbunden: Home Assistant
Wer die Programme nicht selbst verbinden will, schaut sich Home Assistant an. Laut Home Assistant läuft seine Kette aus Spracherkennung, Befehlsauswertung und Sprachausgabe ganz auf der eigenen Hardware; die Anleitung setzt das Home Assistant Operating System voraus. Für die Spracherkennung gibt es dort zwei Wege:
- Speech-to-Phrase erkennt nur Sätze, die es kennt. Laut Home Assistant reicht es für einfache Befehle ans Smart Home; Einkaufslisten oder Timer mit eigenem Namen gehen ohne Weiteres nicht.
- Whisper versucht alles mitzuschreiben und ist die Wahl, wenn ein Sprachmodell antworten soll. Home Assistant bindet es über wyoming-faster-whisper an, eine andere Umsetzung als whisper.cpp; für sie gelten unsere Speicherwerte nicht.
Vorgelesen wird mit Piper, über wyoming-piper. Ein Sprachmodell gehört nicht zu dieser Kette: Es lässt sich als eigener Ollama-Server anbinden. Dass das Modell dabei auch Geräte im Haus steuert, nennt Home Assistant eine experimentelle Funktion. Steuern können nur Modelle, die Werkzeuge unterstützen; Home Assistant rät zu weniger als 25 freigegebenen Geräten und warnt, dass kleinere Modelle eher Fehler machen.
Wenn es geschäftlich wird
Soll ein Sprachassistent im Unternehmen laufen, etwa am Empfang oder im Lager, geht es um mehr als drei Modelle: wer mithört, ob Aufnahmen gespeichert werden, was dokumentiert werden muss. Für diesen Schritt gibt es die KI-Implementierung von Minoka.
Quellen
- welche.ai: Modellseiten von Whisper small, Whisper large-v3-turbo, Piper Thorsten und Piper Kerstin, Speicher aus dem Katalog; Methodik, Audiomodelle; eigene Messung vom 17. Oktober 2026 (Ryzen 7 7700X und AMD Radeon AI PRO R9700, whisper.cpp 1.9.5, piper-tts 1.8.0)
- whisper.cpp: Projektseite auf GitHub
- Piper: Stimmen bei Hugging Face
- Home Assistant: Sprachassistent ganz lokal einrichten, Anbindung an Ollama, wyoming-faster-whisper und wyoming-piper, gelesen am 3. November 2026
Kurz gesagt
Ein Sprachassistent auf dem eigenen Rechner besteht aus drei Teilen: Whisper schreibt mit, was Sie sagen, ein Sprachmodell antwortet, Piper liest die Antwort vor. Hören und Vorlesen sind klein, mit Whisper small und der Piper-Stimme Thorsten zusammen rund 0,9 GB Speicher; den Rest bestimmt das Sprachmodell, und das zeigt die Seite Ihres Geräts. Wer die Teile nicht selbst verbinden will, schaut sich Home Assistant an; das Sprachmodell bindet man dort als eigenen Ollama-Server an. Das Tempo von Hören und Vorlesen haben wir nur auf einem einzigen Schreibtischrechner gemessen, Strom im Dauerbetrieb gar nicht, und den Raspberry Pi führen wir nicht.
Häufige Fragen
Wie viel Speicher braucht ein Sprachassistent?
Hören und Vorlesen brauchen zusammen rund 0,9 GB mit Whisper small und der Piper-Stimme Thorsten, rund 1,2 GB mit Whisper large-v3-turbo. Dazu kommt das Sprachmodell, das antwortet; wie viel Speicher es auf einem bestimmten Gerät braucht, steht auf der Geräteseite von welche.ai.
Quellen: welche.ai, Speicher der Audiomodelle · welche.ai, Transkribieren und Vorlesen
Kann Home Assistant als lokaler Sprachassistent dienen?
Ja. Laut Home Assistant läuft seine Kette aus Spracherkennung, Befehlsauswertung und Sprachausgabe ganz auf der eigenen Hardware. Ein Sprachmodell gehört nicht dazu: Es lässt sich als eigener Ollama-Server anbinden. Für die Spracherkennung nennt Home Assistant zwei Wege: Speech-to-Phrase für einfache Befehle ans Smart Home und Whisper für alles, was darüber hinausgeht.
Quellen: Home Assistant, Sprachassistent ganz lokal einrichten · Home Assistant, Anbindung an Ollama
Wie viel Strom braucht ein Sprachassistent im Dauerbetrieb?
welche.ai hat das nicht gemessen und führt die Leistungsaufnahme für kein Gerät. Verlässlich ist eine Messung am Gerät selbst: ein Messgerät zwischen Steckdose und Netzteil, einmal im Leerlauf und einmal während einer Antwort.
Quelle: welche.ai, Grenzen der Rechnung
Läuft ein lokaler Sprachassistent auf einem Raspberry Pi?
Eigene Zahlen hat welche.ai dazu nicht: Der Raspberry Pi steht nicht im Katalog, und der Rechner mit eigenen Angaben gilt für ihn nicht. Home Assistant nennt für den Raspberry Pi 4 rund 8 Sekunden, bis Whisper einen Sprachbefehl verarbeitet hat, und nennt Whisper nur dann eine gute Wahl, wenn die Hardware leistungsfähig ist und der Assistent über einfache Befehle hinausgehen soll. Für einfache Befehle ans Smart Home nennt es dort Speech-to-Phrase mit unter einer Sekunde. Ein Wert für das antwortende Sprachmodell steht dort nicht.
Quellen: Home Assistant, Sprachassistent ganz lokal einrichten · welche.ai, Rechner mit eigenen Angaben
Weitere Ratgeber
- Whisper lokal: Interviews und Besprechungen auf dem eigenen Rechner transkribierenWhisper lokal installieren und nutzen, mit Programm oder im Terminal: Welches Modell für deutsche Aufnahmen passt, wie viel Speicher es braucht und wo die Grenzen liegen.
- KI-Agenten mit lokalem Modell: zwölf Werkzeuge im VergleichOpenClaw, Hermes Agent, DeepSeek Harness und neun weitere Agenten mit einem Modell auf dem eigenen Rechner: was jeder verlangt, was Ihr Gerät hergibt und welcher zu Ihnen passt.
- DeepSeek Harness installieren und lokal nutzenDeepSeek Harness ist der quelloffene Programmier-Agent von DeepSeek. Wie Sie ihn installieren, mit einem lokalen Modell verbinden und was an DeepSeek geht.
- KI auf dem eigenen PC installieren: Reicht Ihr Rechner, oder müssen Sie etwas kaufen?Zum Ausprobieren brauchen Sie meist weder neue Hardware noch das Terminal. Was mit 8 und 16 GB Arbeitsspeicher läuft, welche Programme ohne Befehle auskommen und wann sich ein Kauf lohnt.
- Lokale KI: Was das heißt, was Sie brauchen, was sie kannLokale KI heißt, dass die Modelldatei auf Ihrem Gerät liegt und die Rechenarbeit dort stattfindet. Was Sie dafür brauchen, was heute gut funktioniert und wo die Grenzen liegen.
- Qwen lokal betreiben: welche Fassung auf welches GerätQwen gibt es in vielen Größen. Die kleinste aktuelle Fassung in unserem Katalog, Qwen3.5 4B, braucht 4,4 GB und läuft damit auf praktisch jedem Rechner, Qwen3.8 27B flüssig auf 261 von 891 Geräten. Welche Fassung zu Ihrem Rechner passt und wie Sie sie starten.
- Qwen-Image: KI-Bilder lokal erzeugen und die richtige Fassung wählenQwen-Image erzeugt Bilder auf dem eigenen Rechner. Die neue Fassung 2.1 ist nur für Forschung und Erprobung freigegeben, für Unternehmen ist 2512 die Fassung. Was beide an Speicher brauchen und wie lange ein Bild auf unserer Karte dauerte.
- DSGVO-konforme KI: Welche Daten verlassen bei welchem Aufbau Ihr Haus?Lokal heißt nicht telemetriefrei, und eine EU-Zusage hängt am Bereitstellungstyp. Was bei vier gängigen Aufbauten wirklich übertragen wird, mit Zitaten aus den Datenschutzerklärungen der Anbieter.
- KI für Berufsgeheimnisträger: Was § 203 StGB bei ChatGPT & Co. verlangtHat ChatGPT eine Schweigepflicht? Worauf Anwälte, Ärzte, Steuerberater und Psychotherapeuten bei KI achten müssen, was die Kammern sagen und warum lokale KI die einfachste Antwort ist.
- KI lokal betreiben, ohne Terminal: So läuft ein Sprachmodell auf Ihrem RechnerLokale KI-Modelle brauchen auf Mac und Windows keine Befehlszeile mehr. Was Sie an Hardware brauchen, wie die Einrichtung Schritt für Schritt gelingt und wo die Grenzen liegen.
- Lokale KI-Modelle: Welches läuft auf Ihrer Hardware?Ob ein lokales KI-Modell auf Ihrem Rechner läuft, entscheidet der Speicher. Wie Sie die richtige Zahl finden und was die Stufen hinter dem Namen bedeuten.
- Mac mini für lokale KI: Welche Ausstattung reicht und wann es der Mac Studio sein mussBeim Mac zählt der Arbeitsspeicher, nicht die ganze Zahl. Was der Mac mini mit M4, M5 Pro und M6 trägt, wann es der Mac Studio sein muss und was gebraucht zählt.
- Deutsche und europäische KI-Modelle: Welche es gibt und was davon lokal läuftTeuken aus Deutschland, EuroLLM aus einem EU-Projekt, Mistral aus Paris, Apertus aus der Schweiz. Lizenz, Größe und auf wie vielen der 891 Geräte sie flüssig laufen.
- gpt-oss: OpenAIs offenes Modell auf dem eigenen Rechnergpt-oss gibt es in zwei Größen. Die kleine läuft auf 478 von 891 geführten Geräten flüssig, die große auf 80. Was Sie brauchen und wo das Modell nicht passt.
- Grafikkarte für KI: Worauf es bei lokalen Modellen ankommtFür KI zählt an einer Grafikkarte zuerst der Speicher, dann das Tempo. Welche Speicherklasse wie viele Modelle trägt und was der Schritt von 16 auf 24 GB bringt.
- Hermes Agent lokal: mit Ollama oder LM Studio nutzenHermes Agent lokal mit Ollama oder LM Studio: Er braucht mindestens 64.000 Token Kontext, ein Modell mit Werkzeugaufrufen und genug Speicher.
- KI selbst hosten: Was sich ändert, sobald mehrere zugreifenSelbst hosten heißt, dass einer betreibt und mehrere nutzen. Was dafür nötig ist, warum die Voreinstellungen dafür nicht gemacht sind und welche Fragen ab dem zweiten Nutzer keine Technikfragen mehr sind.
- Open Source KI: Welche Modelle wirklich offen sindDie meisten Modelle, die „Open Source KI“ heißen, geben nur die fertigen Modelldateien frei, nicht den Weg dorthin. Was der Begriff bedeutet, welche Familien es gibt und was davon auf eigener Hardware läuft.
- OpenClaw lokal: mit Ollama oder LM Studio einrichtenOpenClaw mit einem lokalen Modell über Ollama oder LM Studio: installieren, einrichten, passende Modelle wählen und wissen, was trotzdem ins Netz geht.
- Ornith 1.5: Welche der drei Größen auf Ihrem Rechner läuftOrnith 1.5 in drei Größen: Die kleinste läuft beim Ausprobieren auf 576 von 891 Geräten flüssig, die größte auf 9. Was jede braucht und wann ein Verbund hilft.
- Ollama oder LM Studio: Was ist der Unterschied, und welches passt zu Ihnen?Beide laden offene Sprachmodelle auf Ihren Rechner und rechnen mit demselben Unterbau. Was sie wirklich unterscheidet, was sie kosten und welche Daten dabei Ihr Haus verlassen.
- Was ist Ollama, und welche Alternativen gibt es?Ollama, LM Studio, llama.cpp und vLLM tauchen in vielen Anleitungen für lokale KI auf. Was jedes davon ist, wie die vier zusammenhängen und welches Sie wofür brauchen.
- Was kostet ChatGPT wirklich, und ab wann lohnt sich eigene Hardware?Die Rechnung hat vier Posten, und drei davon stehen auf keiner Preisliste. Was ein Modell über die Schnittstelle kostet, was eigene Hardware dagegenstellt, und ab welchem Punkt sich der Wechsel rechnet.