OpenAI Whisper auf dem Mac: Offline-Diktat, Core ML & Alternativen
OpenAI Whisper hat gezeigt, wie präzise moderne Spracherkennung sein kann. Auf dem Mac lässt sich Whisper vollständig offline betreiben. Doch wer Whisper zum täglichen Diktieren in E-Mails, Slack oder Notizen nutzen möchte, stößt schnell auf spürbare Grenzen: Latenz, hoher Speicherbedarf und Halluzinationen.
Stand: 14. Oktober 2026. Ein technischer Leitfaden über Möglichkeiten mit whisper.cpp, Python und modernen Neural-Engine-Alternativen für macOS.
Was ist Whisper und warum ist es so beliebt?
Whisper ist ein von OpenAI entwickeltes Open-Source-Modell für Automatic Speech Recognition (ASR). Es wurde mit über 680.000 Stunden mehrsprachigen Audiodaten trainiert und zeichnet sich durch eine beachtliche Robustheit gegenüber Dialekten, Akzenten und Fachvokabular aus.
Der entscheidende Vorteil für Datenschutz und Produktivität: Die Modellgewichte sind frei verfügbar. Whisper kann ohne Cloud-Abo, ohne API-Schlüssel und ohne Übertragung sensibler Audiodaten direkt auf dem eigenen Rechner ausgeführt werden.
Die drei Wege, Whisper auf dem Mac zu nutzen
1. Über Python (openai-whisper)
Der von OpenAI bereitgestellte Standardweg. Mit pip install openai-whisper lässt sich das Modell über PyTorch ansprechen:
whisper audio.mp3 --model medium --language deFazit: Gut geeignet für Entwickler und Batch-Verarbeitung von Audio-Dateien im Hintergrund. Für den Alltag als Diktierfunktion ungeeignet: PyTorch benötigt mehrere Gigabyte RAM, startet langsam und fügt keinen Text direkt an der Cursor-Position ein.
2. Über whisper.cpp (Metal & Core ML)
Georgi Gerganov hat Whisper in reinem C/C++ neu implementiert. Über whisper.cpp wird Apples Metal-Grafikschnittstelle sowie die Apple Neural Engine (ANE) über Core ML angesprochen. Durch Quantisierung (z. B. q5_0 oder q8_0) sinkt der Speicherbedarf drastisch:
# whisper.cpp kompilieren und mit Core ML beschleunigen
git clone https://github.com/ggerganov/whisper.cpp
cd whisper.cpp
make -j
./main -m models/ggml-base.bin -f aufnahme.wavFazit: Technisch exzellent und auf Apple Silicon (M1 bis M4) deutlich schneller als Python. Dennoch bleibt whisper.cpp ein Kommandozeilenwerkzeug ohne systemweites Diktat-Interface.
3. Über spezialisierte Transkriptions-Apps
macOS-Apps wie MacWhisper binden whisper.cpp in eine grafische Oberfläche ein. Man zieht eine Audiodatei oder ein Video ins Fenster und erhält das Transkript.
Fazit: Ideal für Interviews, Podcasts und Meetings. Für das flüssige Live-Diktieren beim Verfassen einer E-Mail sind diese Apps jedoch oft sperrig.
Die typischen Hürden von Whisper beim Live-Diktieren
Wer versucht, Whisper als Ersatz für die Tastatur im Alltag einzusetzen, begegnet drei systembedingten Hürden der Modellarchitektur:
- Spürbare Latenz (1 bis 3 Sekunden Bedenkzeit): Whisper basiert auf einer autoregressiven Encoder-Decoder-Struktur. Das Modell benötigt längere Audioabschnitte (typisch 30-Sekunden-Fenster), um Kontext zu erfassen. Nach dem Loslassen der Diktier-Taste muss der Nutzer warten, bis der Satz verarbeitet ist.
- Halluzinationen bei Stille und Rauschen: Weil der Decoder trainiert wurde, immer Textsequenzen vorherzusagen, neigt Whisper bei Sprechpausen, Atmern oder Mikrofonrauschen dazu, Phantomsätze zu erfinden – etwa Untertitel-Floskeln wie „Vielen Dank fürs Zuschauen!“ oder endlose Wortwiederholungen.
- Speicher- und Akkubelastung: Selbst das neuere Whisper-turbo-Modell belegt rund 2 GB Arbeitsspeicher und beansprucht die GPU kontinuierlich. Auf dem MacBook führt das bei häufigem Diktieren zu warmen Gehäusen und kürzerer Akkulaufzeit.
Die moderne Alternative: Streaming mit Parakeet TDT auf Apple Silicon
In den letzten Jahren hat sich im Bereich der Spracherkennung für Desktop-Betriebssysteme ein Architekturwechsel vollzogen. Anstelle schwerfälliger Encoder-Decoder-Netze setzen moderne Diktierwerkzeuge auf Fast Conformer Transducer (wie NVIDIA Parakeet TDT).
In unserer App inlaut kommt ein optimiertes Parakeet-Ultra-Modell zum Einsatz, das über die Open-Source-Bibliothek FluidAudio nativ auf der Apple Neural Engine läuft:
- Echtzeit-Geschwindigkeit: 10 Sekunden Sprache werden auf einem Apple-Silicon-Mac in weniger als 0,1 Sekunden transkribiert. Der Text erscheint unmittelbar nach dem Loslassen der Taste.
- Leichtgewicht im Leerlauf: Die App benötigt im Leerlauf lediglich 50 bis 60 MB RAM (gegenüber 1,5 bis 2,5 GB bei Whisper-Apps).
- Keine Halluzinationen bei Stille: Die Transducer-Architektur gibt bei Stille oder Rauschen schlicht leere Tokens aus. Ein versehentliches Erfinden von Sätzen ist strukturell ausgeschlossen.
- Deutsch und Englisch gemischt: Fachbegriffe wie „Pull Request“, „Deployment Pipeline“ oder englische E-Mail-Begriffe werden mitten im deutschen Satz fehlerfrei erkannt, ohne dass eine Spracheinstellung gewechselt werden muss.
Übersicht: Whisper vs. inlaut vs. macOS-Bordmittel
| Kriterium | OpenAI Whisper (Standard) | whisper.cpp (Core ML) | inlaut (Parakeet Ultra) | macOS Diktierfunktion |
|---|---|---|---|---|
| Latenz (10s Diktat) | 1,5 – 3,0 s | 0,8 – 1,5 s | < 0,1 s | Direktes Streaming |
| RAM-Bedarf | ~2,5 GB | ~1,2 GB | ~50 – 60 MB | Im System integriert |
| Verhalten bei Stille | Neigt zu Halluzinationen | Filterung nötig | Keine Halluzinationen | Bricht nach 30s ab |
| Deutsch + Englisch gemischt | Hängt vom Prompt ab | Begrenzt | Nahtlos in einem Satz | Manuelle Umschaltung nötig |
| Direktes Einfügen per Taste | Nein (CLI) | Nein (Script nötig) | Ja (in jedes Textfeld) | Ja |
| Cloud-Abhängigkeit | Keine (offline) | Keine (offline) | Keine (100% offline) | Teils Server-abhängig |
| Lizenz & Kosten | MIT (kostenlos) | MIT (kostenlos) | GPL-3.0 (kostenlos) | Teil von macOS |
Wie du inlaut auf deinem Mac startest
Wenn du die Präzision moderner KI-Spracherkennung mit der Geschwindigkeit einer echten Mac-App kombinieren möchtest:
- Lade das DMG-Paket von inlaut herunter und ziehe die App in deinen Programme-Ordner.
- Beim ersten Start lädt inlaut einmalig das optimierte Sprachmodell (~630 MB) herunter. Danach arbeitet die App dauerhaft komplett offline.
- Halte deine gewählte Taste (z. B. 🌐 fn oder eine Tastenkombination) gedrückt, sprich deinen Text und lass die Taste los – dein Text wird sofort eingefügt.
Häufige Fragen zu Whisper am Mac
Läuft OpenAI Whisper komplett offline auf dem Mac?
Ja. Sobald das Modell (z. B. über whisper.cpp, Python oder eine lokale Mac-App) einmal auf die Festplatte geladen wurde, benötigt die Transkription keinerlei Internetverbindung. Sämtliche Sprachdaten verbleiben auf dem Mac.
Warum ist Whisper für Live-Diktate oft zu langsam?
Whisper ist eine autoregressive Encoder-Decoder-Architektur, die für ganze Audioblöcke von bis zu 30 Sekunden konzipiert wurde. Beim Live-Diktieren entsteht dadurch eine spürbare Latenz von 1 bis 3 Sekunden nach dem Sprechen. Neuere Streaming-Modelle wie Transducer (z. B. Parakeet TDT) transkribieren Sprache dagegen in unter 0,1 Sekunden.
Warum halluziniert Whisper bei Stille?
Der Decoder von Whisper versucht stets, Tokens zu generieren. Wenn in der Audioaufnahme Stille, Atmer oder Hintergrundgeräusche vorkommen, neigt das Modell dazu, Sätze zu erfinden oder sich in Wiederholungsschleifen zu verfangen. Transducer-Architekturen kennen dieses Problem nicht, da sie bei Stille leere Tokens ausgeben.
Braucht man für Whisper einen Apple Silicon Mac (M1/M2/M3/M4)?
Whisper läuft grundsätzlich auch auf älteren Intel-Macs über die CPU, arbeitet dort aber sehr langsam und erzeugt viel Hitze. Auf Apple Silicon profitiert Whisper von der Neural Engine und Metal über Core ML, was die Berechnung deutlich beschleunigt.
Was ist der Unterschied zwischen Whisper und inlaut?
Whisper ist ein vielseitiges Grundlagenmodell für Transkriptionen in über 90 Sprachen. inlaut ist eine spezialisierte Diktier-App für macOS, die auf Parakeet TDT mit Core ML auf der Apple Neural Engine aufbaut. inlaut transkribiert zehnmal schneller, belegt im Leerlauf nur 50 MB RAM, tippt den Text direkt an die Cursor-Position und verhindert Halluzinationen bei Stille.