Deutsche und europäische KI-Modelle: Welche es gibt und was davon lokal läuft

Teuken aus Deutschland, EuroLLM aus einem EU-Projekt, Mistral aus Paris, Apertus aus der Schweiz. Lizenz, Größe und auf wie vielen der 891 Geräte sie flüssig laufen.

Stand: 2026-09-25

Wer nach deutschen KI-Modellen sucht, bekommt eine kurze Antwort. Wir haben ein Sprachmodell gefunden, das ein deutsches Forschungsprojekt von Grund auf trainiert hat und das Unternehmen frei nutzen und auf dem eigenen Rechner betreiben dürfen: Teuken 7B. Deutsche Weiterentwicklungen fremder Modelle gibt es mehrere; sie behandelt dieser Text nicht. Aus Europa führt unser Katalog drei Familien dazu: EuroLLM von einem Verbund europäischer Hochschulen und Firmen, die offenen Modelle von Mistral AI aus Paris und Apertus von der ETH Zürich und der EPFL in der Schweiz.

Dieser Text ordnet sieben dieser Modelle aus unserem Katalog ein: woher sie kommen, was ihre Lizenz erlaubt, wie groß sie sind und auf wie vielen der 891 geführten Geräte sie flüssig laufen. Er sagt auch, was wir nicht gefunden haben, denn die Lücke gehört zur Antwort.

Warum die Herkunft zählt, und wofür sie nicht reicht

Für ein Unternehmen ist die Herkunft eines Modells aus drei Gründen interessant. Die Lizenz legt fest, ob Sie es geschäftlich einsetzen dürfen. Die Dokumentation zeigt im besten Fall, wer es gebaut und bezahlt hat und womit es trainiert wurde; in den Modellkarten der Mistral-Modelle fehlen Angaben zu Geldgebern und Trainingsdaten. Und die Sprachen, mit denen ein Modell trainiert wurde, bestimmen mit, wie es mit deutschen Texten umgeht.

Für den Datenschutz zählt weniger die Herkunft als die Frage, wie und wo Sie das Modell betreiben. Das Modell selbst schickt keine Daten an seinen Hersteller, gleich ob es aus Heidelberg, Paris oder Kalifornien stammt; das Programm, das es startet, kann das sehr wohl. Was lokal betrieben wirklich im Haus bleibt und was nicht, erklärt der Ratgeber DSGVO-konforme KI. Herkunft ist ein Merkmal, kein Siegel.

Die sieben Modelle im Überblick

ModellHerkunftLizenzParameterKontextSpeicher (Q4_K_M)läuft flüssig auf
Teuken 7BOpenGPT-X, DeutschlandApache 2.07,5 Mrd.4.096 Token6,1 GB818 von 891 Geräten
Apertus 8B 2509ETH Zürich und EPFL, SchweizApache 2.0 und Nutzungsrichtlinie8,1 Mrd.65.536 Token6,5 GB785 von 891 Geräten
EuroLLM 9BEU-finanzierter VerbundApache 2.09,2 Mrd.32.768 Token7,2 GB779 von 891 Geräten
Ministral 3 14BMistral AI, FrankreichApache 2.013,5 Mrd.262.144 Token10,8 GB470 von 891 Geräten
EuroLLM 22BEU-finanzierter VerbundApache 2.022,6 Mrd.32.768 Token15,6 GB289 von 891 Geräten
Mistral Small 3.2 24BMistral AI, FrankreichApache 2.023,6 Mrd.131.072 Token17,0 GB269 von 891 Geräten
Apertus 70B 2509ETH Zürich und EPFL, SchweizApache 2.0 und Nutzungsrichtlinie70,6 Mrd.65.536 Token46,7 GB22 von 891 Geräten

Q4_K_M ist die verbreitete Quantisierungsstufe, also eine verkleinerte Fassung der Modelldatei. Speicherbedarf und Gerätezahl sind für 4.096 Token Kontext berechnet. Wer den längeren Kontext eines Modells ausschöpft, braucht mehr Speicher, und das Modell läuft dann auf weniger Geräten.

Alle sieben stehen unter der Apache-2.0-Lizenz und dürfen damit auch geschäftlich eingesetzt, verändert und weitergegeben werden. Bei Apertus legen ETH Zürich und EPFL zusätzlich eine Nutzungsrichtlinie bei, die unter anderem eine Freistellung von Ansprüchen Dritter verlangt; mehr dazu im Abschnitt zu Apertus. Wer die Modelle weitergibt, muss unter anderem den Lizenztext beilegen und eigene Änderungen kennzeichnen. Was eine solche Lizenz im Einzelnen erlaubt, erklärt der Ratgeber Open Source KI. Der Kontext gibt an, wie viel Text ein Modell auf einmal verarbeiten kann; ein Token ist ungefähr ein Wortteil.

Teuken 7B: das Modell aus Deutschland, in der richtigen Fassung

Teuken stammt aus dem Forschungsprojekt OpenGPT-X. Entwickelt haben es laut Modellkarte Fraunhofer, das Forschungszentrum Jülich, die TU Dresden und das DFKI, gefördert vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK). Die Karte beschreibt das Modell so:

„Teuken-7B-instruct-commercial-v0.4 is an instruction-tuned 7B parameter multilingual large language model (LLM) pre-trained with 4T tokens in all official 24 European languages and released under Apache 2.0 in the research project OpenGPT-X.“

Quelle: OpenGPT-X, Teuken-7B-instruct-commercial-v0.4 auf Hugging Face, gelesen am

Wichtig ist der Zusatz im Namen. Von Teuken gibt es drei Fassungen, die auf Anweisungen trainiert sind, und nur eine davon dürfen Sie im Unternehmen einsetzen:

FassungLizenzgeschäftlich nutzbar
instruct-commercial-v0.4Apache 2.0ja
instruct-research-v0.4eigene Lizenz von Fraunhofernein
instruct-v0.6CC BY-NC 4.0nein

Die Forschungsfassung erlaubt laut ihrem Lizenztext nur nicht-kommerzielle wissenschaftliche Forschung und schließt das Verändern und Weitergeben aus. Die neuere Fassung v0.6 wurde mit mehr Daten trainiert, ist aber ebenfalls nicht für den geschäftlichen Einsatz freigegeben:

„Teuken 7B-instruct-v0.6 is designed for private, non-commercial, research, and educational use in all 24 official European Union languages.“

Quelle: OpenGPT-X, Teuken-7B-instruct-v0.6 auf Hugging Face, gelesen am

Unser Katalog führt deshalb die kommerzielle Fassung. Mit der Variante Q4_K_M braucht sie rund 6,1 GB Speicher und läuft auf 818 von 891 geführten Geräten flüssig.

Die Grenze liegt beim Kontext: 4.096 Token sind für längere Dokumente eng. EuroLLM verarbeitet das Achtfache.

EuroLLM: ein Verbund statt eines Labors

EuroLLM kommt nicht von einer einzelnen Firma, sondern von einem Verbund aus Hochschulen und Unternehmen, darunter die Universitäten von Lissabon, Edinburgh und Amsterdam, Unbabel und die Sorbonne. Finanziert hat es laut Modellkarte die Europäische Union. Das Ziel beschreibt die Karte so:

„The EuroLLM project has the goal of creating a suite of LLMs capable of understanding and generating text in all European Union languages as well as some additional relevant languages.“

Quelle: utter-project, EuroLLM-22B-Instruct-2512 auf Hugging Face, gelesen am

Deutsch steht in der Sprachliste beider Größen. Die Karte des 22B-Modells hebt außerdem Übersetzungen zwischen den EU-Amtssprachen hervor.

Die kleine Größe, EuroLLM 9B, braucht mit Q4_K_M rund 7,2 GB und läuft auf 779 von 891 Geräten. Die große, EuroLLM 22B, braucht rund 15,6 GB und läuft auf 289 Geräten. Beide verarbeiten 32.768 Token Kontext. Auch EuroLLM steht nicht in der offiziellen Bibliothek von Ollama; die Startbefehle auf unseren Modellseiten laden die Dateien von Hugging Face, auch hier in Umwandlungen Dritter.

Mistral: das Unternehmen aus Paris

Mistral AI sitzt in Paris, so steht es in der Datenschutzerklärung des Unternehmens. Zwei seiner offenen Modelle führen wir. Ministral 3 14B braucht mit Q4_K_M rund 10,8 GB und läuft auf 470 Geräten; sein Kontext von 262.144 Token ist der größte der sieben. Mistral Small 3.2 24B braucht rund 17,0 GB und läuft auf 269 Geräten.

Deutsch steht bei beiden in der Sprachliste, und beide werten laut ihren Modellkarten neben Text auch Bilder aus. Anders als Teuken und EuroLLM stehen sie in der offiziellen Bibliothek von Ollama. Die Startbefehle auf unseren Modellseiten laden beide trotzdem von Hugging Face, Ministral in der Fassung von Mistral selbst, Mistral Small 3.2 in der Umwandlung eines Dritten.

Apertus: zwei Hochschulen aus der Schweiz

Apertus kommt von der ETH Zürich und der EPFL, den beiden Eidgenössischen Technischen Hochschulen der Schweiz. Laut seiner Modellkarte wurde es von Grund auf trainiert und ist damit keine Weiterentwicklung eines fremden Modells. Die Karte nennt über 1.000 unterstützte Sprachen, führt Deutsch aber nicht einzeln auf.

Die kleine Größe, Apertus 8B, braucht mit Q4_K_M rund 6,5 GB und läuft auf 785 von 891 Geräten. Die große, Apertus 70B, braucht rund 46,7 GB und läuft nur auf 22 Geräten. Beide verarbeiten 65.536 Token Kontext. Auf Hugging Face stellen die beiden Hochschulen keine Dateien im Format GGUF bereit; die Startbefehle auf unseren Modellseiten laden stattdessen von dort die Umwandlung eines Dritten. In der offiziellen Bibliothek von Ollama steht Apertus nicht.

Neben der Apache-2.0-Lizenz legen ETH Zürich und EPFL dem Modell eine Nutzungsrichtlinie bei. Wer Apertus nutzt, erklärt sich laut dieser Richtlinie bereit, die beiden Hochschulen von Ansprüchen Dritter freizustellen, schadlos zu halten und gegen solche Ansprüche zu verteidigen, soweit die Ansprüche aus dieser Nutzung entstehen:

„By using the Apertus LLM you agree to indemnify, defend, and hold harmless ETH Zurich and EPFL against any third-party claims arising from your use of Apertus LLM.“

Quelle: ETH Zürich und EPFL, Apertus LLM Acceptable Use Policy auf Hugging Face, gelesen am

Für die Fassung 2509, die unser Katalog führt, fragt Hugging Face vor dem Herunterladen keine Zustimmung zu dieser Richtlinie ab; die Dateien sind ohne Anmeldung zugänglich. Die Richtlinie knüpft die Freistellung nach ihrem Wortlaut an die Nutzung, nicht an einen Klick.

Außerdem verarbeiten Sie laut der Richtlinie personenbezogene Daten aus Trainingsdaten oder Ausgaben als eigenständiger Verantwortlicher. Angekündigt ist ein Filter, der Löschanträge an die Entwickler in den Ausgaben umsetzt; laut Modellkarte gibt es ihn noch nicht.

Was wir nicht gefunden haben

Ein weiteres Sprachmodell, das in Deutschland von Grund auf trainiert wurde und das Unternehmen frei nutzen dürfen, haben wir nicht gefunden. Zwei Kandidaten, die bei dieser Suche auftauchen, scheitern an der Lizenz oder am Zugang.

Aleph Alpha aus Heidelberg veröffentlicht die Gewichte seiner Pharia-Modelle, aber nicht für den geschäftlichen Einsatz:

„They are publicly available under the Open Aleph License, a license explicitly allowing for non-commercial research and educational use.“

Quelle: Aleph Alpha, Pharia-1-LLM-7B-control auf Hugging Face, gelesen am

SOOFI begegnet Ihnen, wenn Sie nach einem neuen deutschen Modell suchen. Die Modelle liegen seit Juni 2026 bei Hugging Face, tragen dort aber die Lizenzangabe closed-beta. Die Dateien erhalten Sie erst, wenn Sie Ihre Kontaktdaten angeben und der Anbieter Ihre Anfrage freigibt. Eine spätere offene Fassung kündigt die Seite an, ohne Termin:

„The final model will be released openly under a permissive license, without gated access.“

Quelle: Soofi-Project, Soofi-S-Instruct-Preview auf Hugging Face, gelesen am

Außerhalb Deutschlands stoßen Sie zudem auf Salamandra aus Barcelona; unser Katalog führt das Modell nicht. Es steht unter Apache 2.0, wurde beim Nachtraining auf Anweisungen aber vor allem auf drei andere Sprachen ausgerichtet:

„This instructed-tuned variant has been fine-tuned with a collection of 273k instructions, focusing on the performance of Catalan, English and Spanish.“

Quelle: Barcelona Supercomputing Center, salamandra-7b-instruct auf Hugging Face, gelesen am

Was ebenfalls fehlt: ein Urteil über die Qualität. Wenn die Sprachliste einer Modellkarte Deutsch nennt, heißt das nicht, dass das Modell auf Deutsch gut schreibt. Gemessen haben wir das bei keinem der sieben. Bevor Sie sich festlegen, probieren Sie das Modell mit Ihren eigenen Texten aus.

Welches für Sie passt

Wenn die Herkunft aus Deutschland zählt: Teuken 7B, und zwar in der kommerziellen Fassung. Es läuft auf 818 der 891 Geräte in unserem Katalog, ist aber für lange Texte knapp bemessen.

Wenn Sie längere Dokumente verarbeiten: EuroLLM mit 32.768 Token, Apertus mit 65.536, Mistral Small 3.2 24B mit 131.072 oder Ministral 3 14B mit 262.144. Rechnen Sie dabei mit mehr Speicher als in der Tabelle oben, denn sie gilt für kurze Eingaben. Welches Modell auf Ihr Gerät passt, zeigt die Seite Ihres Geräts in unserem Katalog; wie Sie Ihr Gerät finden, beschreibt die Anleitung Welches Gerät habe ich?

Wenn auch Bilder dazugehören: Mistral Small 3.2 24B und Ministral 3 14B, bei denen unsere Modellseiten die Bildeingabe ausweisen; sie brauchen rund 17,0 und 10,8 GB.

Welches Modell im Unternehmen eingesetzt wird, ist selten allein eine Technikfrage. Zur selben Auswahl gehören drei Fragen: wer entscheidet, wer zugreifen darf und wie der Einsatz dokumentiert wird.

Fazit

Kurz gesagt

Ein Sprachmodell, das ein deutsches Forschungsprojekt von Grund auf trainiert hat und das Unternehmen frei nutzen dürfen, haben wir gefunden: Teuken 7B, im Unternehmen nur in der kommerziellen Fassung. Aus Europa kommen EuroLLM, die offenen Modelle von Mistral aus Paris und Apertus aus der Schweiz dazu; alle sieben Modelle stehen unter Apache 2.0, bei Apertus kommt eine Nutzungsrichtlinie mit Freistellung von Ansprüchen Dritter hinzu. Für längere Dokumente ist der Kontext von Teuken knapp, dann passen EuroLLM, Apertus oder die Mistral-Modelle besser, für Bilder Mistral Small 3.2 24B und Ministral 3 14B. Die Herkunft ist ein Merkmal, kein Siegel: Für den Datenschutz zählt, wie Sie das Modell betreiben, und wie gut die Modelle auf Deutsch schreiben, haben wir bei keinem gemessen.

Häufige Fragen

Gibt es eine deutsche KI?

Ja. Teuken 7B stammt aus dem Forschungsprojekt OpenGPT-X und wurde von Fraunhofer, dem Forschungszentrum Jülich, der TU Dresden und dem DFKI entwickelt; die Fassung „instruct-commercial-v0.4“ steht unter Apache 2.0 und lässt sich kostenlos herunterladen und auf dem eigenen Rechner betreiben. Welche der drei Fassungen Sie im Unternehmen einsetzen dürfen, steht im Abschnitt zu Teuken.

Quelle: Teuken 7B, Modellkarte

Welche europäische KI ähnelt ChatGPT?

Ein Beispiel ist Mistral Vibe von Mistral AI, ein Chat-Assistent, der früher Le Chat hieß und einen kostenlosen Tarif hat. Die offenen Modelle von Mistral, die Sie selbst auf Ihrem Rechner betreiben können, stehen im Abschnitt „Mistral: das Unternehmen aus Paris“.

Quelle: Mistral Vibe, Produktseite

Darf ich die Modelle von Aleph Alpha nutzen?

Die frei herunterladbaren Gewichte der Pharia-Modelle nur für nicht-kommerzielle Forschung und Lehre, so die Open Aleph License. Für den geschäftlichen Einsatz bietet Aleph Alpha seinen Kunden laut Modellkarte einen eigenen Zugang an.

Quelle: Pharia-1, Modellkarte

Ist eine KI aus Deutschland automatisch datenschutzkonform?

Nein, die Herkunft ist kein Siegel. Für den Datenschutz zählt, wie Sie das Modell betreiben: Läuft es lokal, etwa mit Ollama oder LM Studio, bleiben Ihre Eingaben laut beiden Anbietern auf dem Gerät, gleich woher das Modell stammt; Betriebsdaten wie die Programmversion können trotzdem übertragen werden (Ratgeber DSGVO-konforme KI).

Quellen: Ollama, Datenschutzerklärung · LM Studio, Datenschutzerklärung

Weitere Ratgeber