Inkling lokal: Die Modelle von Thinking Machines
Inkling von Thinking Machines verarbeitet Text, Bilder und Ton. Es steht unter Apache 2.0 mit Nutzungsrichtlinie. Was die zwei Größen an Speicher brauchen.
Inkling ist die Modellfamilie von Thinking Machines. Laut Modellkarte nimmt sie Text, Bilder und Ton entgegen und antwortet mit Text. Beide Größen sind Mixture-of-Experts-Modelle, die je Textstück nur einen Teil ihrer Parameter rechnen, und beide sind groß: Inkling Small braucht in der Stufe Q4_K_M rund 193,6 GB Speicher und läuft auf 9 der 891 geführten Geräte flüssig. Inkling braucht in der Stufe Q8_0, der kleinsten, die unser Katalog führt, rund 971,7 GB; dafür reicht nach unserer Rechnung derzeit kein einzelnes Gerät. Welche Verbünde aus mehreren Geräten Inkling tragen, zeigt seine Modellseite.
Beide stehen unter Apache 2.0 und dürfen damit auch gewerblich eingesetzt, verändert und weitergegeben werden. Dazu gilt eine Nutzungsrichtlinie von Thinking Machines, der zustimmt, wer die Modelle herunterlädt oder nutzt. Sie verbietet unter anderem, mit den Modellen automatisiert Entscheidungen zu treffen, die Rechte von Menschen berühren, etwa bei Finanzen, Beschäftigung, Wohnraum oder Versicherungen. Thinking Machines kann die Richtlinie jederzeit ändern, und wer die Modelle danach weiter nutzt, stimmt der neuen Fassung zu.
Quellen: Modellkarten von Inkling-Small und Inkling auf Hugging Face, Model Acceptable Use Policy von Thinking Machines, gelesen 2026-09-25.
Modelle
Die Tempowerte sind berechnet, nicht auf dem Gerät gemessen, und an veröffentlichten und eigenen Messungen abgeglichen. Ausgenommen sind die mit * markierten Werte: sie sind nicht abgeglichen und deshalb unsicher.