Am 20. November 2026 hat das KI-Labor Thinking Machines Lab Inkling 2 Mini veröffentlicht, ein Modell, das laut Hersteller „klein genug für Ihren Laptop“ ist[1]. Die Gewichte, also die trainierten Modelldaten, stehen unter der Lizenz Apache 2.0 bei Hugging Face zum Download[2]. Hugging Face stellte am selben Tag Anleitungen für den lokalen Betrieb vor[3].
Im Technikforum Hacker News wurde die Ankündigung am Abend um 21:12 Uhr MEZ eingereicht und hatte bis zum 21. November, 0:45 Uhr, über 500 Punkte und mehr als 80 Kommentare gesammelt[4]. Was das Modell im Büro leistet, wie der Start gelingt und wo die Grenzen liegen, Stand 20. November 2026.

Inkling 2 Mini ist ein Mixture-of-Experts-Modell (MoE): Es besteht aus vielen spezialisierten Teilnetzen, von denen je Token nur 8 von 128 rechnen[2]. Ein Token ist ein Wortbaustein, mit dem Sprachmodelle arbeiten. Von 26,4 Milliarden Parametern, den gelernten Stellgrößen des Modells, sind deshalb je Token nur 3,4 Milliarden aktiv[2].
Ungewöhnlich ist die Schleife: Die mittleren 12 der 24 Schichten laufen für jeden Token dreimal mit denselben Gewichten[2]. Aus 24 gespeicherten Schichten werden so 48 Rechenschritte[1], effektiv rechnet das Modell mit 5,4 Milliarden aktiven Parametern[2]. Das Modell wiegt rund 20 GB, liest bis zu 1 Million Token Kontext, nimmt Text und Bilder entgegen und antwortet in Text[2].
Unabhängig eingeordnet hat es Artificial Analysis, ein Analysehaus für KI-Modelle: 20 Punkte im eigenen Intelligence Index, gleichauf mit dem offenen Modell Qwen3.8 27B (Einstellung „xhigh“), aber mit rund fünfmal weniger aktiven Parametern[5].
Laut Modellkarte ist Inkling 2 Mini für Chatbots, Coding-Assistenten, Agenten, also selbstständig handelnde KI-Programme, und Systeme gedacht, die Antworten aus eigenen Dokumenten ziehen[2]. Weil alles auf dem Gerät läuft, eignet es sich zum Ausprobieren gerade dort, wo Unterlagen das Haus nicht verlassen sollen.

Hugging Face nennt das Modell einen „großartigen lokalen Coding-Begleiter“[3]. Der Hersteller zeigt zudem 20 Agenten, die als Bewohner eines Pixel-Dorfs auf einem einzigen MacBook ohne Netz laufen, und einen Flugsimulator, den das Modell offline in wenigen Minuten baute[1]. Das sind Herstellerdemos, keine unabhängigen Tests.
ollama run inkling-2-miniWer llama.cpp nutzt, eine quelloffene Software für lokale Modelle, startet laut Hugging Face die 4-Bit-Fassung mit llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL, die Endung :Q8_0 lädt die genauere 8-Bit-Fassung[3]. Die Dateien sind 17,6 GB beziehungsweise 27,8 GB groß[8]. Bei Hacker News berichten Nutzer, dass llama.cpp zum Start noch Zusatzänderungen brauchte[4].
Als Maßstab dient Qwen3.8 27B, das offene Modell, mit dem sowohl der Hersteller als auch Artificial Analysis Inkling 2 Mini vergleichen. SWE-bench prüft, ob ein Modell echte Programmierfehler behebt, Terminal Bench misst Aufgaben in der Kommandozeile. Die Kosten für Inkling 2 Mini hat Artificial Analysis mit den Cloud-Preisen von Thinking Machines berechnet, nicht für den Betrieb auf dem eigenen Rechner; die Preisbasis für Qwen nennt der Bericht nicht[5].
| Kriterium | Inkling 2 Mini | Qwen3.8 27B |
|---|---|---|
| Aktive Parameter je Token | ✓ 5,4 Mrd. inklusive Schleife[5] | rund fünfmal so viele[5] |
| Intelligence Index (Artificial Analysis) | 20[5] | gleichauf[5] |
| SWE-bench Verified (Herstellerangabe) | ✓ 79,2 %[2] | 77,8 %[2] |
| Terminal Bench v2.1 (Herstellerangabe) | 71,6 %[2] | ✓ 73,0 %[2] |
| Dauer je Index-Aufgabe (Artificial Analysis) | ✓ 9,0 Min.[5] | 38,2 Min.[5] |
| Kosten je Index-Aufgabe (Cloud-Preise) | ✓ 0,59 US-Dollar[5] | 3,53 US-Dollar[5] |
| Ausgabe-Token je Aufgabe | rund 152.000[5] | ✓ rund 110.000[5] |
Bei Hacker News fallen die ersten Erfahrungen gemischt aus. Einzelne Nutzer berichten von rund 20 Token pro Sekunde auf einem MacBook mit M1 Max und 64 GB (4-Bit-Fassung), 52 auf einer RTX 5090 und 26 bis 34 auf einer Radeon 7900 XTX[4]. Ein Entwickler ließ das Modell ein WordPress-Plugin schreiben: Es verbrauchte die selbst gesetzte Obergrenze von 19.200 Denk-Token, ohne fertig zu werden[4]. Andere loben Texte und Bildverständnis und nennen Gemma 4 und Qwen 3.8 als lokale Alternativen[4].
Thinking Machines schreibt, Inkling 2 Mini sei nicht das stärkste kleine Modell für Dialoge über viele Runden und für Anweisungen mit vielen Vorgaben; im Test MultiChallenge erreicht es 50,0 %, bei ComplexConstraints 33,4 %[1]. Die Schleife bringt kein zusätzliches Faktenwissen, das hängt vor allem an der Gesamtgröße[1]. Laut Modellkarte behauptet das Modell eher als größere Modelle Falsches mit Überzeugung[2].
Zur Sprache nennt die Modellkarte Englisch und allgemeine Mehrsprachigkeit, warnt aber vor geringerer Qualität außerhalb des Englischen; in Tests auf Chinesisch fielen abgehackte Sätze und Sprachmischungen auf[2]. Deutsch prüft keine der Quellen eigens. Testen Sie deutsche Texte also selbst, bevor das Modell Kundentexte schreibt.
Für medizinische, rechtliche oder sicherheitskritische Entscheidungen rät der Hersteller ohne zusätzliches Training, fachliche Prüfung und menschliche Aufsicht ab[2]. Agenten sollen in einer abgeschotteten Umgebung (Sandbox) laufen, weil das Modell sonst etwa Dateien ohne Rückfrage löschen oder überschreiben kann[2]. Welche Fragen zu Datenschutz, Kosten und Abhängigkeit beim lokalen Betrieb bleiben, haben wir im Vergleich lokale KI oder US-Cloud eingeordnet.
Inkling 2 Mini ersetzt die großen Cloud-Modelle nicht, wenn es um Faktenwissen oder lange Dialoge geht. Es ist aber ein unkomplizierter Weg, ein aktuelles Modell mit Bildverständnis auf verbreiteter Hardware zu testen, ohne dass Unterlagen das Haus verlassen.
Unser Rat: Starten Sie mit fünf typischen Aufgaben und bewerten Sie nüchtern. Was überzeugt, lässt sich später in einen internen Chatbot oder eine Dokumentensuche einbauen.
Das ist nicht belegt. Die Modellkarte nennt allgemeine Mehrsprachigkeit, warnt aber vor geringerer Qualität außerhalb des Englischen[2]. Testen Sie deutsche Texte selbst.
Die Gewichte stehen unter Apache 2.0[2]. Die Lizenz erlaubt weltweit und gebührenfrei Nutzung, Bearbeitung, Weitergabe und Verkauf; wer weitergibt, muss unter anderem den Lizenztext beilegen[9]. Zusätzlich verweist die Modellkarte auf eine Nutzungsrichtlinie des Herstellers[2]; sie schließt bestimmte Einsätze aus und verlangt in Produkten Hinweise auf bekannte Grenzen und Risiken[10].
Ein Transformer ist die Bauart heutiger Sprachmodelle. Beim geloopten durchläuft jeder Token einen Teil der Schichten mehrfach, bei Inkling 2 Mini die mittleren 12 dreimal[2]. Das bringt mehr Rechenschritte aus denselben gespeicherten Schichten, aber kein zusätzliches Faktenwissen[1]. Bei Hacker News wird bezweifelt, dass das auf Laptops automatisch schneller ist, weil die Schleifen mehr Speicherbandbreite brauchen[4].
- Thinking Machines Lab: Inkling 2 Mini (20.11.2026): thinkingmachines.ai
- Thinking Machines Lab: Inkling-2-Mini, Modellkarte auf Hugging Face (20.11.2026): huggingface.co
- Hugging Face: Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup (20.11.2026): huggingface.co
- Hacker News: Inkling 2 Mini, Diskussion (20.11.2026, abgerufen 21.11.2026): news.ycombinator.com
- Artificial Analysis: Thinking Machines has released Inkling 2 Mini, an open weights looped transformer (20.11.2026): artificialanalysis.ai
- Ollama: inkling-2-mini (abgerufen 21.11.2026): ollama.com
- Ollama Docs: Vision (abgerufen 21.11.2026): docs.ollama.com
- ggml-org: Inkling-2-Mini-GGUF auf Hugging Face (abgerufen 21.11.2026): huggingface.co
- Apache Software Foundation: Apache License, Version 2.0 (01.2004): apache.org
- Thinking Machines Lab: Model Acceptable Use Policy (15.07.2026): thinkingmachines.ai