Whisper lokal: Interviews und Besprechungen auf dem eigenen Rechner transkribieren

Whisper lokal installieren und nutzen, mit Programm oder im Terminal: Welches Modell für deutsche Aufnahmen passt, wie viel Speicher es braucht und wo die Grenzen liegen.

Stand: 2026-10-06

Wer ein Interview, eine Besprechung oder eine Vorlesung abtippen lassen will, landet schnell bei einem Online-Dienst. Die Aufnahme wandert dann auf fremde Server, mit allem, was darin gesagt wurde. Whisper, das Spracherkennungsmodell von OpenAI, läuft dagegen auch auf dem eigenen Rechner, kostenlos und ohne dass die Aufnahme den Rechner verlässt.

Ollama, mit dem viele Menschen Sprachmodelle lokal betreiben, führt Whisper nicht in seiner Bibliothek. Es kann zwar über seine Programmierschnittstelle mit einem Modell, das Ton versteht, etwa den kleinen Gemma-4-Fassungen E2B und E4B, Aufnahmen umschreiben; das ist aber ein Sprachmodell, kein Spracherkennungsmodell, und es braucht Programmierarbeit. Für Whisper brauchen Sie ein eigenes Programm. Dieser Ratgeber zeigt zwei Wege: Buzz mit Oberfläche für alle, die nicht im Terminal arbeiten wollen, und whisper.cpp für alle, die es tun. Dazu kommt, welches Whisper-Modell zu Ihrem Gerät passt und was Whisper nicht kann.

Was Sie brauchen

Wenig Speicher, verglichen mit Sprachmodellen. Whisper ist klein. Unser Katalog rechnet für die verbreitete Fassung Whisper large-v3-turbo in der verkleinerten Stufe q5_0 mit rund 1,4 GB Speicher, in voller Genauigkeit (f16) mit rund 2,4 GB. Beim Speicher ist Whisper deshalb auf fast jedem Rechner möglich. Was sich zwischen den Geräten unterscheidet, ist das Tempo: Mit Grafikchip geht es deutlich schneller als nur auf dem Prozessor. Eigene Messungen dazu haben wir noch nicht, deshalb nennen wir hier keine Zeiten.

Die Aufnahme als Datei. MP3, M4A oder WAV vom Diktiergerät oder Telefon genügen. Je klarer die Aufnahme, desto weniger müssen Sie nachbessern.

Welches Modell für deutsche Aufnahmen

Whisper gibt es in mehreren Größen. Für deutsche Aufnahmen kommen vier infrage. Die Speicherwerte gelten für die verkleinerte Stufe, die auch der Befehl weiter unten lädt:

ModellSpeicher (Stufe q5)Wofür
large-v3-turborund 1,4 GBder Standard: schnell und laut OpenAI kaum ungenauer als large-v3
large-v3rund 1,9 GBdas größte Modell; ob es Ihre Aufnahmen besser erkennt als Turbo, zeigt nur ein Vergleich
mediumrund 1,0 GBdie kleinere Wahl, wenn Sie ins Englische übersetzen lassen; large-v3 kann das auch, Turbo laut OpenAI nicht
smallrund 0,6 GBAusprobieren, sehr wenig Speicher

Turbo ist laut OpenAI dasselbe Modell wie large-v3, nur mit 4 statt 32 Schichten im Teil, der den Text erzeugt: „As a result, the model is way faster, at the expense of a minor quality degradation.“ In OpenAIs eigener Übersicht, gemessen mit englischer Sprache auf einer Grafikkarte für Rechenzentren (A100), ist Turbo rund achtmal so schnell wie large, medium nur doppelt so schnell. Bei anderen Sprachen und auf anderer Hardware kann das laut OpenAI deutlich abweichen.

Modelle mit „.en“ im Namen erkennen nur Englisch. Für deutsche Aufnahmen brauchen Sie eines ohne diesen Zusatz.

Wie gut Whisper Deutsch erkennt, haben wir nicht selbst gemessen. OpenAI schreibt allgemein, ohne die Sprachen zu nennen: „They show strong ASR results in ~10 languages.“ Ob Ihre Aufnahmen gut genug erkannt werden, zeigt am schnellsten ein Versuch mit einer kurzen Aufnahme.

Whisper lokal installieren, ohne Terminal: Buzz

Buzz ist ein quelloffenes, kostenloses Programm unter MIT-Lizenz, das Whisper mit einer Oberfläche verbindet. Es beschreibt sich so: „Transcribe and translate audio offline on your personal computer.“ Die aktuelle Fassung gibt es für macOS, Windows und Linux, die Installationsdateien für Mac und Windows liegen auf SourceForge und in den Veröffentlichungen auf GitHub; für Windows brauchen Sie dort alle drei Dateien (eine .exe, zwei .bin). Unter Windows ist das Programm nicht signiert; Windows warnt deshalb bei der Installation. Auf Macs mit Intel-Prozessor ist laut Buzz die Fassung 1.4.5 die letzte, künftige Fassungen brauchen einen Apple-Chip. Sehr alte Prozessoren ohne AVX2 unterstützt Buzz nicht.

  1. Datei laden. Im Menü „Datei“ wählen Sie „Datei importieren...“ (in englischer Oberfläche „File“ und „Import File...“; oder ⌘ + O auf dem Mac, Strg + O unter Windows) und dann Ihre Aufnahme.
  2. Sprache und Modell wählen. Stellen Sie die Sprache auf Deutsch, statt sie erkennen zu lassen. Buzz rät selbst dazu: „It is recommended to always select language to transcribe to as automatic language detection may result in unexpected results.“ Im Feld „Modell“ wählen Sie „Whisper.cpp“, darunter die Größe „Large-V3-Turbo“. Laut Buzz ist Whisper.cpp die beste Wahl auf dem Mac und die vorgesehene ohne Grafikkarte von Nvidia.
  3. Starten. Mit „Ausführen“ („Run“) beginnt die Umschrift. Beim ersten Mal lädt Buzz das Modell aus dem Internet; danach liegt es auf Ihrem Rechner. Buzz lädt dabei die Fassung in voller Genauigkeit, für Turbo also rund 2,4 GB Speicher statt 1,4 GB. Schalten Sie in den Einstellungen „GPU-Arbeitsspeicher reduzieren“ ein und starten Buzz neu, nimmt es die Stufe q8_0 mit rund 1,7 GB.
  4. Exportieren. Das Ergebnis speichern Sie als Text (TXT) oder als Untertitel mit Zeitmarken (SRT, VTT).

Bei Interviews hilft eine Funktion, die Whisper allein nicht hat: Buzz kann in einem fertigen Transkript die Sprecher unterscheiden („Sprecher identifizieren“, englisch „Identify Speakers“) und die Bezeichnungen durch Namen ersetzen. Dafür muss die Aufnahme noch auf dem Rechner liegen. Buzz schränkt selbst ein, dass die Zuordnung danebenliegen kann, wenn Menschen durcheinanderreden, unterschiedlich weit vom Mikrofon sitzen oder jemand nur wenig sagt. Auf Macs mit Intel-Prozessor gibt es diese Funktion nicht.

Was Buzz ins Netz schickt. Die Aufnahme bleibt auf Ihrem Rechner, solange Sie ein lokales Modell wählen. Drei Ausnahmen sollten Sie kennen:

  • Wählen Sie als Modell „OpenAI Whisper API“ und hinterlegen einen Schlüssel, geht die Aufnahme zur Umschrift an OpenAI oder an den Dienst, dessen Adresse Sie eingetragen haben.
  • Derselbe Schlüssel schickt bei eingeschalteter KI-Übersetzung den Text dorthin; das Plugin für Zusammenfassungen (Menü „Plugins...“) schickt das Transkript an einen Dienst Ihrer Wahl.
  • Unabhängig davon meldet Buzz bei jedem Start Systemangaben samt Buzz-Version und Spracheinstellung sowie eine Kennung an den Analysedienst PostHog in den USA, ohne die Aufnahme. Die Kennung erzeugt Buzz beim ersten Start zufällig und schickt danach immer dieselbe mit. So steht es im Quelltext (buzz/widgets/application.py); die Einstellungs-Anleitung spricht nur von Nutzungsstatistiken zu Betriebssystem und Architektur. Abschalten lässt sich das nur über die Umgebungsvariable BUZZ_DISABLE_TELEMETRY, die Anleitung zeigt, wie Sie sie dauerhaft setzen. Unter Windows und macOS fragt Buzz außerdem höchstens wöchentlich bei GitHub nach Updates (abschaltbar mit BUZZ_DISABLE_UPDATE_CHECK).

Mit Terminal: whisper.cpp

whisper.cpp (Projektseite auf GitHub) ist die Umsetzung, auf der auch Buzz aufbauen kann. Sie läuft auf Mac, Windows und Linux, nutzt auf dem Mac die Grafik im Apple-Chip und auf anderen Rechnern auf Wunsch Grafikkarten über CUDA oder Vulkan. Gegenüber dem Python-Original von OpenAI (pip install openai-whisper) braucht sie weniger Speicher und kein Python. Nach dem Bauen laut Anleitung laden Sie im Ordner von whisper.cpp das Modell, auf Mac und Linux mit:

sh ./models/download-ggml-model.sh large-v3-turbo-q5_0

Unter Windows laden Sie mit .\models\download-ggml-model.cmd large-v3-turbo-q5_0 und starten das Programm nach einem Bau mit Visual Studio als .\build\bin\Release\whisper-cli.exe; fertige Programme für Windows liegen auch in den Nachtbauten unter den Veröffentlichungen auf GitHub. whisper-cli liest laut eigener Hilfe die Formate FLAC, MP3, OGG und WAV. Eine M4A, etwa eine Sprachaufnahme vom Telefon, wandeln Sie vorher mit ffmpeg um:

ffmpeg -i interview.m4a -ar 16000 -ac 1 -c:a pcm_s16le interview.wav

Dann starten Sie die Umschrift. Wichtig ist der Schalter -l de, denn ohne ihn geht whisper.cpp von Englisch aus:

./build/bin/whisper-cli -m models/ggml-large-v3-turbo-q5_0.bin -l de -f interview.wav -otxt -osrt

-otxt schreibt den Text in eine Datei, -osrt zusätzlich Untertitel mit Zeitmarken. Die Grundbefehle stehen auch auf der Modellseite von welche.ai unter „So starten Sie es“. Wer Whisper im eigenen Netz für mehrere Rechner bereitstellen will, findet in whisper.cpp dafür whisper-server.

Für die Sprechertrennung bringt whisper.cpp das Verfahren tinydiarize mit, laut Anleitung als Versuch („experimental“), und dafür bietet whisper.cpp nur ein englisches Modell an. Liegt jede Stimme auf einem eigenen Stereokanal, trennt der Schalter -di sie; wandeln Sie die Aufnahme dafür ohne -ac 1 um, sonst geht die Trennung verloren. Für deutsche Interviews mit einem Mikrofon ist Buzz der einfachere Weg.

Was Whisper nicht kann

Es erfindet manchmal Text. OpenAI schreibt über die Modelle: „However, because the models are trained in a weakly supervised manner using large-scale noisy data, the predictions may include texts that are not actually spoken in the audio input (i.e. hallucination).“ OpenAI nennt außerdem Wiederholungen als bekannte Schwäche. Lesen Sie ein Transkript gegen die Aufnahme, bevor Sie daraus zitieren.

Es unterscheidet keine Sprecher. Whisper liefert einen durchgehenden Text. Wer sprach, ergänzt ein Programm wie Buzz oder Sie selbst.

Fehler sehen Sie dem Text nicht an. Ein Transkript sieht immer vollständig aus, auch wo ein Wort falsch verstanden wurde. Typische Fehlerstellen sind Namen und Fachwörter. Solche Wörter können Sie vorab angeben: in Buzz unter „Erweitert...“ als „Erste Anweisung“ (englisch „Advanced...“ und „Initial Prompt“), in whisper.cpp mit --prompt.

Datenschutz

Ein Interview enthält fast immer personenbezogene Daten, oft auch die von Menschen, die nur erwähnt werden. Läuft die Umschrift auf Ihrem Rechner, verlässt die Aufnahme ihn nicht; das Programm lädt die nötigen Modelle beim ersten Gebrauch herunter, und Buzz meldet zusätzlich seinen Start und fragt nach Updates (siehe oben). Was das für Ihre Pflichten nach der DSGVO bedeutet, ordnet der Ratgeber DSGVO-konforme KI ein.

Wenn es geschäftlich wird

Sollen Besprechungen im Unternehmen regelmäßig umgeschrieben werden, für mehrere Menschen und mit Ablage, geht es um mehr als ein Programm: wer Zugriff hat, wie lange Aufnahmen bleiben, was dokumentiert werden muss. Für diesen Schritt gibt es die KI-Implementierung von minoka.

Quellen

Alle gelesen am 6. Oktober 2026.

Weitere Ratgeber