Deutsche und europäische KI-Modelle: Welche es gibt und was davon lokal läuft
Teuken aus Deutschland, EuroLLM aus einem EU-Projekt, Mistral aus Paris, Apertus aus der Schweiz. Lizenz, Größe und auf wie vielen der 891 Geräte sie flüssig laufen.
Stand: 2026-09-25
Wer nach deutschen KI-Modellen sucht, bekommt eine kurze Antwort. Wir haben ein Sprachmodell gefunden, das ein deutsches Forschungsprojekt von Grund auf trainiert hat und das Unternehmen frei nutzen und auf dem eigenen Rechner betreiben dürfen: Teuken 7B. Deutsche Weiterentwicklungen fremder Modelle gibt es mehrere; sie behandelt dieser Text nicht. Aus Europa führt unser Katalog drei Familien dazu: EuroLLM von einem Verbund europäischer Hochschulen und Firmen, die offenen Modelle von Mistral AI aus Paris und Apertus von der ETH Zürich und der EPFL in der Schweiz.
Dieser Text ordnet sieben dieser Modelle aus unserem Katalog ein: woher sie kommen, was ihre Lizenz erlaubt, wie groß sie sind und auf wie vielen der 891 geführten Geräte sie flüssig laufen. Er sagt auch, was wir nicht gefunden haben, denn die Lücke gehört zur Antwort.
Warum die Herkunft zählt, und wofür sie nicht reicht
Für ein Unternehmen ist die Herkunft eines Modells aus drei Gründen interessant. Die Lizenz legt fest, ob Sie es geschäftlich einsetzen dürfen. Die Dokumentation zeigt im besten Fall, wer es gebaut und bezahlt hat und womit es trainiert wurde; in den Modellkarten der Mistral-Modelle fehlen Angaben zu Geldgebern und Trainingsdaten. Und die Sprachen, mit denen ein Modell trainiert wurde, bestimmen mit, wie es mit deutschen Texten umgeht.
Für den Datenschutz zählt weniger die Herkunft als die Frage, wie und wo Sie das Modell betreiben. Das Modell selbst schickt keine Daten an seinen Hersteller, gleich ob es aus Heidelberg, Paris oder Kalifornien stammt; das Programm, das es startet, kann das sehr wohl. Was lokal betrieben wirklich im Haus bleibt und was nicht, erklärt der Ratgeber DSGVO-konforme KI. Herkunft ist ein Merkmal, kein Siegel.
Die sieben Modelle im Überblick
| Modell | Herkunft | Lizenz | Parameter | Kontext | Speicher (Q4_K_M) | läuft flüssig auf |
|---|---|---|---|---|---|---|
| Teuken 7B | OpenGPT-X, Deutschland | Apache 2.0 | 7,5 Mrd. | 4.096 Token | 6,1 GB | 818 von 891 Geräten |
| Apertus 8B 2509 | ETH Zürich und EPFL, Schweiz | Apache 2.0 und Nutzungsrichtlinie | 8,1 Mrd. | 65.536 Token | 6,5 GB | 785 von 891 Geräten |
| EuroLLM 9B | EU-finanzierter Verbund | Apache 2.0 | 9,2 Mrd. | 32.768 Token | 7,2 GB | 779 von 891 Geräten |
| Ministral 3 14B | Mistral AI, Frankreich | Apache 2.0 | 13,5 Mrd. | 262.144 Token | 10,8 GB | 470 von 891 Geräten |
| EuroLLM 22B | EU-finanzierter Verbund | Apache 2.0 | 22,6 Mrd. | 32.768 Token | 15,6 GB | 289 von 891 Geräten |
| Mistral Small 3.2 24B | Mistral AI, Frankreich | Apache 2.0 | 23,6 Mrd. | 131.072 Token | 17,0 GB | 269 von 891 Geräten |
| Apertus 70B 2509 | ETH Zürich und EPFL, Schweiz | Apache 2.0 und Nutzungsrichtlinie | 70,6 Mrd. | 65.536 Token | 46,7 GB | 22 von 891 Geräten |
Q4_K_M ist die verbreitete Quantisierungsstufe, also eine verkleinerte Fassung der Modelldatei. Speicherbedarf und Gerätezahl sind für 4.096 Token Kontext berechnet. Wer den längeren Kontext eines Modells ausschöpft, braucht mehr Speicher, und das Modell läuft dann auf weniger Geräten.
Alle sieben stehen unter der Apache-2.0-Lizenz und dürfen damit auch geschäftlich eingesetzt, verändert und weitergegeben werden. Bei Apertus legen ETH Zürich und EPFL zusätzlich eine Nutzungsrichtlinie bei, die unter anderem eine Freistellung von Ansprüchen Dritter verlangt; mehr dazu im Abschnitt zu Apertus. Wer die Modelle weitergibt, muss unter anderem den Lizenztext beilegen und eigene Änderungen kennzeichnen. Was eine solche Lizenz im Einzelnen erlaubt, erklärt der Ratgeber Open Source KI. Der Kontext gibt an, wie viel Text ein Modell auf einmal verarbeiten kann; ein Token ist ungefähr ein Wortteil.
Teuken 7B: das Modell aus Deutschland, in der richtigen Fassung
Teuken stammt aus dem Forschungsprojekt OpenGPT-X. Entwickelt haben es laut Modellkarte Fraunhofer, das Forschungszentrum Jülich, die TU Dresden und das DFKI, gefördert vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK). Die Karte beschreibt das Modell so:
„Teuken-7B-instruct-commercial-v0.4 is an instruction-tuned 7B parameter multilingual large language model (LLM) pre-trained with 4T tokens in all official 24 European languages and released under Apache 2.0 in the research project OpenGPT-X.“
Wichtig ist der Zusatz im Namen. Von Teuken gibt es drei Fassungen, die auf Anweisungen trainiert sind, und nur eine davon dürfen Sie im Unternehmen einsetzen:
| Fassung | Lizenz | geschäftlich nutzbar |
|---|---|---|
| instruct-commercial-v0.4 | Apache 2.0 | ja |
| instruct-research-v0.4 | eigene Lizenz von Fraunhofer | nein |
| instruct-v0.6 | CC BY-NC 4.0 | nein |
Die Forschungsfassung erlaubt laut ihrem Lizenztext nur nicht-kommerzielle wissenschaftliche Forschung und schließt das Verändern und Weitergeben aus. Die neuere Fassung v0.6 wurde mit mehr Daten trainiert, ist aber ebenfalls nicht für den geschäftlichen Einsatz freigegeben:
„Teuken 7B-instruct-v0.6 is designed for private, non-commercial, research, and educational use in all 24 official European Union languages.“
Unser Katalog führt deshalb die kommerzielle Fassung. Mit der Variante Q4_K_M braucht sie rund 6,1 GB Speicher und läuft auf 818 von 891 geführten Geräten flüssig.
Die Grenze liegt beim Kontext: 4.096 Token sind für längere Dokumente eng. EuroLLM verarbeitet das Achtfache.
EuroLLM: ein Verbund statt eines Labors
EuroLLM kommt nicht von einer einzelnen Firma, sondern von einem Verbund aus Hochschulen und Unternehmen, darunter die Universitäten von Lissabon, Edinburgh und Amsterdam, Unbabel und die Sorbonne. Finanziert hat es laut Modellkarte die Europäische Union. Das Ziel beschreibt die Karte so:
„The EuroLLM project has the goal of creating a suite of LLMs capable of understanding and generating text in all European Union languages as well as some additional relevant languages.“
Deutsch steht in der Sprachliste beider Größen. Die Karte des 22B-Modells hebt außerdem Übersetzungen zwischen den EU-Amtssprachen hervor.
Die kleine Größe, EuroLLM 9B, braucht mit Q4_K_M rund 7,2 GB und läuft auf 779 von 891 Geräten. Die große, EuroLLM 22B, braucht rund 15,6 GB und läuft auf 289 Geräten. Beide verarbeiten 32.768 Token Kontext. Auch EuroLLM steht nicht in der offiziellen Bibliothek von Ollama; die Startbefehle auf unseren Modellseiten laden die Dateien von Hugging Face, auch hier in Umwandlungen Dritter.
Mistral: das Unternehmen aus Paris
Mistral AI sitzt in Paris, so steht es in der Datenschutzerklärung des Unternehmens. Zwei seiner offenen Modelle führen wir. Ministral 3 14B braucht mit Q4_K_M rund 10,8 GB und läuft auf 470 Geräten; sein Kontext von 262.144 Token ist der größte der sieben. Mistral Small 3.2 24B braucht rund 17,0 GB und läuft auf 269 Geräten.
Deutsch steht bei beiden in der Sprachliste, und beide werten laut ihren Modellkarten neben Text auch Bilder aus. Anders als Teuken und EuroLLM stehen sie in der offiziellen Bibliothek von Ollama. Die Startbefehle auf unseren Modellseiten laden beide trotzdem von Hugging Face, Ministral in der Fassung von Mistral selbst, Mistral Small 3.2 in der Umwandlung eines Dritten.
Apertus: zwei Hochschulen aus der Schweiz
Apertus kommt von der ETH Zürich und der EPFL, den beiden Eidgenössischen Technischen Hochschulen der Schweiz. Laut seiner Modellkarte wurde es von Grund auf trainiert und ist damit keine Weiterentwicklung eines fremden Modells. Die Karte nennt über 1.000 unterstützte Sprachen, führt Deutsch aber nicht einzeln auf.
Die kleine Größe, Apertus 8B, braucht mit Q4_K_M rund 6,5 GB und läuft auf 785 von 891 Geräten. Die große, Apertus 70B, braucht rund 46,7 GB und läuft nur auf 22 Geräten. Beide verarbeiten 65.536 Token Kontext. Auf Hugging Face stellen die beiden Hochschulen keine Dateien im Format GGUF bereit; die Startbefehle auf unseren Modellseiten laden stattdessen von dort die Umwandlung eines Dritten. In der offiziellen Bibliothek von Ollama steht Apertus nicht.
Neben der Apache-2.0-Lizenz legen ETH Zürich und EPFL dem Modell eine Nutzungsrichtlinie bei. Wer Apertus nutzt, erklärt sich laut dieser Richtlinie bereit, die beiden Hochschulen von Ansprüchen Dritter freizustellen, schadlos zu halten und gegen solche Ansprüche zu verteidigen, soweit die Ansprüche aus dieser Nutzung entstehen:
„By using the Apertus LLM you agree to indemnify, defend, and hold harmless ETH Zurich and EPFL against any third-party claims arising from your use of Apertus LLM.“
Für die Fassung 2509, die unser Katalog führt, fragt Hugging Face vor dem Herunterladen keine Zustimmung zu dieser Richtlinie ab; die Dateien sind ohne Anmeldung zugänglich. Die Richtlinie knüpft die Freistellung nach ihrem Wortlaut an die Nutzung, nicht an einen Klick.
Außerdem verarbeiten Sie laut der Richtlinie personenbezogene Daten aus Trainingsdaten oder Ausgaben als eigenständiger Verantwortlicher. Angekündigt ist ein Filter, der Löschanträge an die Entwickler in den Ausgaben umsetzt; laut Modellkarte gibt es ihn noch nicht.
Was wir nicht gefunden haben
Ein weiteres Sprachmodell, das in Deutschland von Grund auf trainiert wurde und das Unternehmen frei nutzen dürfen, haben wir nicht gefunden. Zwei Kandidaten, die bei dieser Suche auftauchen, scheitern an der Lizenz oder am Zugang.
Aleph Alpha aus Heidelberg veröffentlicht die Gewichte seiner Pharia-Modelle, aber nicht für den geschäftlichen Einsatz:
„They are publicly available under the Open Aleph License, a license explicitly allowing for non-commercial research and educational use.“
SOOFI begegnet Ihnen, wenn Sie nach einem neuen deutschen Modell suchen. Die Modelle liegen seit Juni 2026 bei Hugging Face, tragen dort aber die Lizenzangabe closed-beta. Die Dateien erhalten Sie erst, wenn Sie Ihre Kontaktdaten angeben und der Anbieter Ihre Anfrage freigibt. Eine spätere offene Fassung kündigt die Seite an, ohne Termin:
„The final model will be released openly under a permissive license, without gated access.“
Außerhalb Deutschlands stoßen Sie zudem auf Salamandra aus Barcelona; unser Katalog führt das Modell nicht. Es steht unter Apache 2.0, wurde beim Nachtraining auf Anweisungen aber vor allem auf drei andere Sprachen ausgerichtet:
„This instructed-tuned variant has been fine-tuned with a collection of 273k instructions, focusing on the performance of Catalan, English and Spanish.“
Was ebenfalls fehlt: ein Urteil über die Qualität. Wenn die Sprachliste einer Modellkarte Deutsch nennt, heißt das nicht, dass das Modell auf Deutsch gut schreibt. Gemessen haben wir das bei keinem der sieben. Bevor Sie sich festlegen, probieren Sie das Modell mit Ihren eigenen Texten aus.
Welches für Sie passt
Wenn die Herkunft aus Deutschland zählt: Teuken 7B, und zwar in der kommerziellen Fassung. Es läuft auf 818 der 891 Geräte in unserem Katalog, ist aber für lange Texte knapp bemessen.
Wenn Sie längere Dokumente verarbeiten: EuroLLM mit 32.768 Token, Apertus mit 65.536, Mistral Small 3.2 24B mit 131.072 oder Ministral 3 14B mit 262.144. Rechnen Sie dabei mit mehr Speicher als in der Tabelle oben, denn sie gilt für kurze Eingaben. Welches Modell auf Ihr Gerät passt, zeigt die Seite Ihres Geräts in unserem Katalog; wie Sie Ihr Gerät finden, beschreibt die Anleitung Welches Gerät habe ich?
Wenn auch Bilder dazugehören: Mistral Small 3.2 24B und Ministral 3 14B, bei denen unsere Modellseiten die Bildeingabe ausweisen; sie brauchen rund 17,0 und 10,8 GB.
Welches Modell im Unternehmen eingesetzt wird, ist selten allein eine Technikfrage. Zur selben Auswahl gehören drei Fragen: wer entscheidet, wer zugreifen darf und wie der Einsatz dokumentiert wird.
Kurz gesagt
Ein Sprachmodell, das ein deutsches Forschungsprojekt von Grund auf trainiert hat und das Unternehmen frei nutzen dürfen, haben wir gefunden: Teuken 7B, im Unternehmen nur in der kommerziellen Fassung. Aus Europa kommen EuroLLM, die offenen Modelle von Mistral aus Paris und Apertus aus der Schweiz dazu; alle sieben Modelle stehen unter Apache 2.0, bei Apertus kommt eine Nutzungsrichtlinie mit Freistellung von Ansprüchen Dritter hinzu. Für längere Dokumente ist der Kontext von Teuken knapp, dann passen EuroLLM, Apertus oder die Mistral-Modelle besser, für Bilder Mistral Small 3.2 24B und Ministral 3 14B. Die Herkunft ist ein Merkmal, kein Siegel: Für den Datenschutz zählt, wie Sie das Modell betreiben, und wie gut die Modelle auf Deutsch schreiben, haben wir bei keinem gemessen.
Häufige Fragen
Gibt es eine deutsche KI?
Ja. Teuken 7B stammt aus dem Forschungsprojekt OpenGPT-X und wurde von Fraunhofer, dem Forschungszentrum Jülich, der TU Dresden und dem DFKI entwickelt; die Fassung „instruct-commercial-v0.4“ steht unter Apache 2.0 und lässt sich kostenlos herunterladen und auf dem eigenen Rechner betreiben. Welche der drei Fassungen Sie im Unternehmen einsetzen dürfen, steht im Abschnitt zu Teuken.
Quelle: Teuken 7B, Modellkarte
Welche europäische KI ähnelt ChatGPT?
Ein Beispiel ist Mistral Vibe von Mistral AI, ein Chat-Assistent, der früher Le Chat hieß und einen kostenlosen Tarif hat. Die offenen Modelle von Mistral, die Sie selbst auf Ihrem Rechner betreiben können, stehen im Abschnitt „Mistral: das Unternehmen aus Paris“.
Quelle: Mistral Vibe, Produktseite
Darf ich die Modelle von Aleph Alpha nutzen?
Die frei herunterladbaren Gewichte der Pharia-Modelle nur für nicht-kommerzielle Forschung und Lehre, so die Open Aleph License. Für den geschäftlichen Einsatz bietet Aleph Alpha seinen Kunden laut Modellkarte einen eigenen Zugang an.
Quelle: Pharia-1, Modellkarte
Ist eine KI aus Deutschland automatisch datenschutzkonform?
Nein, die Herkunft ist kein Siegel. Für den Datenschutz zählt, wie Sie das Modell betreiben: Läuft es lokal, etwa mit Ollama oder LM Studio, bleiben Ihre Eingaben laut beiden Anbietern auf dem Gerät, gleich woher das Modell stammt; Betriebsdaten wie die Programmversion können trotzdem übertragen werden (Ratgeber DSGVO-konforme KI).
Quellen: Ollama, Datenschutzerklärung · LM Studio, Datenschutzerklärung
Weitere Ratgeber
- Sprachassistent selber bauen: lokal mit Whisper, Ollama und PiperEin Sprachassistent ohne Cloud braucht drei Modelle: Whisper hört zu, ein Sprachmodell antwortet, Piper liest vor. Speicher, gemessenes Tempo und unsere Grenzen.
- Whisper lokal: Interviews und Besprechungen auf dem eigenen Rechner transkribierenWhisper lokal installieren und nutzen, mit Programm oder im Terminal: Welches Modell für deutsche Aufnahmen passt, wie viel Speicher es braucht und wo die Grenzen liegen.
- KI-Agenten mit lokalem Modell: zwölf Werkzeuge im VergleichOpenClaw, Hermes Agent, DeepSeek Harness und neun weitere Agenten mit einem Modell auf dem eigenen Rechner: was jeder verlangt, was Ihr Gerät hergibt und welcher zu Ihnen passt.
- DeepSeek Harness installieren und lokal nutzenDeepSeek Harness ist der quelloffene Programmier-Agent von DeepSeek. Wie Sie ihn installieren, mit einem lokalen Modell verbinden und was an DeepSeek geht.
- KI auf dem eigenen PC installieren: Reicht Ihr Rechner, oder müssen Sie etwas kaufen?Zum Ausprobieren brauchen Sie meist weder neue Hardware noch das Terminal. Was mit 8 und 16 GB Arbeitsspeicher läuft, welche Programme ohne Befehle auskommen und wann sich ein Kauf lohnt.
- Lokale KI: Was das heißt, was Sie brauchen, was sie kannLokale KI heißt, dass die Modelldatei auf Ihrem Gerät liegt und die Rechenarbeit dort stattfindet. Was Sie dafür brauchen, was heute gut funktioniert und wo die Grenzen liegen.
- Qwen lokal betreiben: welche Fassung auf welches GerätQwen gibt es in vielen Größen. Die kleinste aktuelle Fassung in unserem Katalog, Qwen3.5 4B, braucht 4,4 GB und läuft damit auf praktisch jedem Rechner, Qwen3.8 27B flüssig auf 261 von 891 Geräten. Welche Fassung zu Ihrem Rechner passt und wie Sie sie starten.
- Qwen-Image: KI-Bilder lokal erzeugen und die richtige Fassung wählenQwen-Image erzeugt Bilder auf dem eigenen Rechner. Die neue Fassung 2.1 ist nur für Forschung und Erprobung freigegeben, für Unternehmen ist 2512 die Fassung. Was beide an Speicher brauchen und wie lange ein Bild auf unserer Karte dauerte.
- DSGVO-konforme KI: Welche Daten verlassen bei welchem Aufbau Ihr Haus?Lokal heißt nicht telemetriefrei, und eine EU-Zusage hängt am Bereitstellungstyp. Was bei vier gängigen Aufbauten wirklich übertragen wird, mit Zitaten aus den Datenschutzerklärungen der Anbieter.
- KI für Berufsgeheimnisträger: Was § 203 StGB bei ChatGPT & Co. verlangtHat ChatGPT eine Schweigepflicht? Worauf Anwälte, Ärzte, Steuerberater und Psychotherapeuten bei KI achten müssen, was die Kammern sagen und warum lokale KI die einfachste Antwort ist.
- KI lokal betreiben, ohne Terminal: So läuft ein Sprachmodell auf Ihrem RechnerLokale KI-Modelle brauchen auf Mac und Windows keine Befehlszeile mehr. Was Sie an Hardware brauchen, wie die Einrichtung Schritt für Schritt gelingt und wo die Grenzen liegen.
- Lokale KI-Modelle: Welches läuft auf Ihrer Hardware?Ob ein lokales KI-Modell auf Ihrem Rechner läuft, entscheidet der Speicher. Wie Sie die richtige Zahl finden und was die Stufen hinter dem Namen bedeuten.
- Mac mini für lokale KI: Welche Ausstattung reicht und wann es der Mac Studio sein mussBeim Mac zählt der Arbeitsspeicher, nicht die ganze Zahl. Was der Mac mini mit M4, M5 Pro und M6 trägt, wann es der Mac Studio sein muss und was gebraucht zählt.
- gpt-oss: OpenAIs offenes Modell auf dem eigenen Rechnergpt-oss gibt es in zwei Größen. Die kleine läuft auf 478 von 891 geführten Geräten flüssig, die große auf 80. Was Sie brauchen und wo das Modell nicht passt.
- Grafikkarte für KI: Worauf es bei lokalen Modellen ankommtFür KI zählt an einer Grafikkarte zuerst der Speicher, dann das Tempo. Welche Speicherklasse wie viele Modelle trägt und was der Schritt von 16 auf 24 GB bringt.
- Hermes Agent lokal: mit Ollama oder LM Studio nutzenHermes Agent lokal mit Ollama oder LM Studio: Er braucht mindestens 64.000 Token Kontext, ein Modell mit Werkzeugaufrufen und genug Speicher.
- KI selbst hosten: Was sich ändert, sobald mehrere zugreifenSelbst hosten heißt, dass einer betreibt und mehrere nutzen. Was dafür nötig ist, warum die Voreinstellungen dafür nicht gemacht sind und welche Fragen ab dem zweiten Nutzer keine Technikfragen mehr sind.
- Open Source KI: Welche Modelle wirklich offen sindDie meisten Modelle, die „Open Source KI“ heißen, geben nur die fertigen Modelldateien frei, nicht den Weg dorthin. Was der Begriff bedeutet, welche Familien es gibt und was davon auf eigener Hardware läuft.
- OpenClaw lokal: mit Ollama oder LM Studio einrichtenOpenClaw mit einem lokalen Modell über Ollama oder LM Studio: installieren, einrichten, passende Modelle wählen und wissen, was trotzdem ins Netz geht.
- Ornith 1.5: Welche der drei Größen auf Ihrem Rechner läuftOrnith 1.5 in drei Größen: Die kleinste läuft beim Ausprobieren auf 576 von 891 Geräten flüssig, die größte auf 9. Was jede braucht und wann ein Verbund hilft.
- Ollama oder LM Studio: Was ist der Unterschied, und welches passt zu Ihnen?Beide laden offene Sprachmodelle auf Ihren Rechner und rechnen mit demselben Unterbau. Was sie wirklich unterscheidet, was sie kosten und welche Daten dabei Ihr Haus verlassen.
- Was ist Ollama, und welche Alternativen gibt es?Ollama, LM Studio, llama.cpp und vLLM tauchen in vielen Anleitungen für lokale KI auf. Was jedes davon ist, wie die vier zusammenhängen und welches Sie wofür brauchen.
- Was kostet ChatGPT wirklich, und ab wann lohnt sich eigene Hardware?Die Rechnung hat vier Posten, und drei davon stehen auf keiner Preisliste. Was ein Modell über die Schnittstelle kostet, was eigene Hardware dagegenstellt, und ab welchem Punkt sich der Wechsel rechnet.