KI
Inkling 2 Mini: Was das offene KI-Modell lokal kann
Sphinx-Flashdesign Logo
Geschrieben von
Sphinx-Flashdesign
Developers Signature Designers Signature
Datum
20.11.2026
Lesezeit
8 Min.
Wörter
1429
Inkling 2 Mini ist ein offenes KI-Modell, das auf einem Mac mit 32 GB Arbeitsspeicher ohne Internet läuft und Texte wie Bilder versteht.

Am 20. November 2026 hat das KI-Labor Thinking Machines Lab Inkling 2 Mini veröffentlicht, ein Modell, das laut Hersteller „klein genug für Ihren Laptop“ ist[1]. Die Gewichte, also die trainierten Modelldaten, stehen unter der Lizenz Apache 2.0 bei Hugging Face zum Download[2]. Hugging Face stellte am selben Tag Anleitungen für den lokalen Betrieb vor[3].

Im Technikforum Hacker News wurde die Ankündigung am Abend um 21:12 Uhr MEZ eingereicht und hatte bis zum 21. November, 0:45 Uhr, über 500 Punkte und mehr als 80 Kommentare gesammelt[4]. Was das Modell im Büro leistet, wie der Start gelingt und wo die Grenzen liegen, Stand 20. November 2026.

Inkling 2 Mini: offenes KI-Modell lokal auf dem eigenen Rechner
Inkling 2 Mini im Überblick: offen, sparsam, multimodal

Inkling 2 Mini ist ein Mixture-of-Experts-Modell (MoE): Es besteht aus vielen spezialisierten Teilnetzen, von denen je Token nur 8 von 128 rechnen[2]. Ein Token ist ein Wortbaustein, mit dem Sprachmodelle arbeiten. Von 26,4 Milliarden Parametern, den gelernten Stellgrößen des Modells, sind deshalb je Token nur 3,4 Milliarden aktiv[2].

Ungewöhnlich ist die Schleife: Die mittleren 12 der 24 Schichten laufen für jeden Token dreimal mit denselben Gewichten[2]. Aus 24 gespeicherten Schichten werden so 48 Rechenschritte[1], effektiv rechnet das Modell mit 5,4 Milliarden aktiven Parametern[2]. Das Modell wiegt rund 20 GB, liest bis zu 1 Million Token Kontext, nimmt Text und Bilder entgegen und antwortet in Text[2].

Unabhängig eingeordnet hat es Artificial Analysis, ein Analysehaus für KI-Modelle: 20 Punkte im eigenen Intelligence Index, gleichauf mit dem offenen Modell Qwen3.8 27B (Einstellung „xhigh“), aber mit rund fünfmal weniger aktiven Parametern[5].

Vier Ideen für den Einsatz im Büro

Laut Modellkarte ist Inkling 2 Mini für Chatbots, Coding-Assistenten, Agenten, also selbstständig handelnde KI-Programme, und Systeme gedacht, die Antworten aus eigenen Dokumenten ziehen[2]. Weil alles auf dem Gerät läuft, eignet es sich zum Ausprobieren gerade dort, wo Unterlagen das Haus nicht verlassen sollen.

Karikatur: Eine Mitarbeiterin arbeitet entspannt am Laptop im Flugmodus, während eine beleidigte Wolke draußen ans Fenster drückt
Vertrauliche Texte bearbeiten
Protokolle zusammenfassen, Angebotsentwürfe umformulieren, interne Notizen ordnen, ohne Cloud-Dienst. Die Herstellerdemos liefen im Flugmodus[1].
Fragen an eigene Unterlagen
Bei Retrieval-Augmented Generation (RAG) sucht ein System passende Stellen in Ihren Dokumenten, das Modell antwortet daraus. Genau diesen Einsatz nennt die Modellkarte[2].
Screenshots und Fotos auswerten
Ollama führt das Modell mit Bildverständnis[6]. Solche Modelle beschreiben und ordnen Bilder und beantworten Fragen dazu[7].
Prototypen aus Skizzen
Im Test von Hugging Face baute das Modell aus einer Serviettenskizze eine App zum Aufteilen von Reisekosten, die alle 13 Prüfungen bestand; die 4-Bit-Fassung erstellte eine Website aus einem kurzen Prompt[3].

Hugging Face nennt das Modell einen „großartigen lokalen Coding-Begleiter“[3]. Der Hersteller zeigt zudem 20 Agenten, die als Bewohner eines Pixel-Dorfs auf einem einzigen MacBook ohne Netz laufen, und einen Flugsimulator, den das Modell offline in wenigen Minuten baute[1]. Das sind Herstellerdemos, keine unabhängigen Tests.

So starten Sie in vier Schritten
Hardware prüfen
Laut Modellkarte unterstützt das Modell einen NVIDIA DGX Spark und Macs mit Apple-Chip ab 32 GB Arbeitsspeicher (MacBook, Mac mini, Mac Studio); andere Grafikkarten sind möglich, empfohlen sind dann mindestens 32 GB Grafikspeicher (VRAM)[2]. Die Herstellerdemos liefen auf einem MacBook Pro mit M5 Pro und 48 GB[1].
Ollama-Vorabversion installieren
Ollama ist ein Programm, das offene Modelle auf dem eigenen Rechner startet. Für Inkling 2 Mini verlangt die Ollama-Modellseite einen Mac mit mindestens 32 GB und bietet dafür eine Vorabversion als Mac-Installationsdatei an; Windows und Linux nennt sie nicht[6].
Modell laden und starten
Im Terminal genügt der Befehl unten, Ollama lädt dann rund 20 GB herunter[6].
Mit eigenen Aufgaben testen
Nehmen Sie fünf echte Aufgaben aus Ihrem Alltag, etwa eine Zusammenfassung, eine deutsche E-Mail und eine Frage zu einem Screenshot. Für Bilder geben Sie in Ollama den Dateipfad zusammen mit Ihrer Frage ein[7]. Vergleichen Sie die Ergebnisse mit Ihrem bisherigen Cloud-Werkzeug.
Terminal
Kopieren
ollama run inkling-2-mini

Wer llama.cpp nutzt, eine quelloffene Software für lokale Modelle, startet laut Hugging Face die 4-Bit-Fassung mit llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL, die Endung :Q8_0 lädt die genauere 8-Bit-Fassung[3]. Die Dateien sind 17,6 GB beziehungsweise 27,8 GB groß[8]. Bei Hacker News berichten Nutzer, dass llama.cpp zum Start noch Zusatzänderungen brauchte[4].

Im Vergleich: Inkling 2 Mini und Qwen3.8 27B

Als Maßstab dient Qwen3.8 27B, das offene Modell, mit dem sowohl der Hersteller als auch Artificial Analysis Inkling 2 Mini vergleichen. SWE-bench prüft, ob ein Modell echte Programmierfehler behebt, Terminal Bench misst Aufgaben in der Kommandozeile. Die Kosten für Inkling 2 Mini hat Artificial Analysis mit den Cloud-Preisen von Thinking Machines berechnet, nicht für den Betrieb auf dem eigenen Rechner; die Preisbasis für Qwen nennt der Bericht nicht[5].

KriteriumInkling 2 MiniQwen3.8 27B
Aktive Parameter je Token✓ 5,4 Mrd. inklusive Schleife[5]rund fünfmal so viele[5]
Intelligence Index (Artificial Analysis)20[5]gleichauf[5]
SWE-bench Verified (Herstellerangabe)✓ 79,2 %[2]77,8 %[2]
Terminal Bench v2.1 (Herstellerangabe)71,6 %[2]✓ 73,0 %[2]
Dauer je Index-Aufgabe (Artificial Analysis)✓ 9,0 Min.[5]38,2 Min.[5]
Kosten je Index-Aufgabe (Cloud-Preise)✓ 0,59 US-Dollar[5]3,53 US-Dollar[5]
Ausgabe-Token je Aufgaberund 152.000[5]✓ rund 110.000[5]

Bei Hacker News fallen die ersten Erfahrungen gemischt aus. Einzelne Nutzer berichten von rund 20 Token pro Sekunde auf einem MacBook mit M1 Max und 64 GB (4-Bit-Fassung), 52 auf einer RTX 5090 und 26 bis 34 auf einer Radeon 7900 XTX[4]. Ein Entwickler ließ das Modell ein WordPress-Plugin schreiben: Es verbrauchte die selbst gesetzte Obergrenze von 19.200 Denk-Token, ohne fertig zu werden[4]. Andere loben Texte und Bildverständnis und nennen Gemma 4 und Qwen 3.8 als lokale Alternativen[4].

Grenzen, die der Hersteller selbst nennt

Thinking Machines schreibt, Inkling 2 Mini sei nicht das stärkste kleine Modell für Dialoge über viele Runden und für Anweisungen mit vielen Vorgaben; im Test MultiChallenge erreicht es 50,0 %, bei ComplexConstraints 33,4 %[1]. Die Schleife bringt kein zusätzliches Faktenwissen, das hängt vor allem an der Gesamtgröße[1]. Laut Modellkarte behauptet das Modell eher als größere Modelle Falsches mit Überzeugung[2].

Zur Sprache nennt die Modellkarte Englisch und allgemeine Mehrsprachigkeit, warnt aber vor geringerer Qualität außerhalb des Englischen; in Tests auf Chinesisch fielen abgehackte Sätze und Sprachmischungen auf[2]. Deutsch prüft keine der Quellen eigens. Testen Sie deutsche Texte also selbst, bevor das Modell Kundentexte schreibt.

Für medizinische, rechtliche oder sicherheitskritische Entscheidungen rät der Hersteller ohne zusätzliches Training, fachliche Prüfung und menschliche Aufsicht ab[2]. Agenten sollen in einer abgeschotteten Umgebung (Sandbox) laufen, weil das Modell sonst etwa Dateien ohne Rückfrage löschen oder überschreiben kann[2]. Welche Fragen zu Datenschutz, Kosten und Abhängigkeit beim lokalen Betrieb bleiben, haben wir im Vergleich lokale KI oder US-Cloud eingeordnet.

Unsere Einordnung: ausprobieren, mit klarer Aufgabenliste

Inkling 2 Mini ersetzt die großen Cloud-Modelle nicht, wenn es um Faktenwissen oder lange Dialoge geht. Es ist aber ein unkomplizierter Weg, ein aktuelles Modell mit Bildverständnis auf verbreiteter Hardware zu testen, ohne dass Unterlagen das Haus verlassen.

Unser Rat: Starten Sie mit fünf typischen Aufgaben und bewerten Sie nüchtern. Was überzeugt, lässt sich später in einen internen Chatbot oder eine Dokumentensuche einbauen.

Häufige Fragen zu Inkling 2 Mini
Läuft Inkling 2 Mini auf meinem Firmen-Laptop, und wie viel Arbeitsspeicher brauche ich?

Auf einem Mac mit Apple-Chip ab 32 GB Arbeitsspeicher ja, so Modellkarte und Ollama[2][6]. Für andere Rechner empfiehlt der Hersteller eine Grafikkarte mit mindestens 32 GB Grafikspeicher[2]; die Ollama-Seite erwähnt Windows und Linux nicht[6].

Wie installiere ich das Modell mit Ollama oder llama.cpp, und was kostet mich das?

Auf dem Mac mit der Ollama-Vorabversion und dem Befehl ollama run inkling-2-mini[6], mit llama.cpp per llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL[3]. Lizenzgebühren fallen nicht an[9]; Kosten entstehen für Hardware und Ihre Testzeit.

Wie gut kann Inkling 2 Mini Deutsch?

Das ist nicht belegt. Die Modellkarte nennt allgemeine Mehrsprachigkeit, warnt aber vor geringerer Qualität außerhalb des Englischen[2]. Testen Sie deutsche Texte selbst.

Darf ich das Modell in meiner Firma kommerziell nutzen?

Die Gewichte stehen unter Apache 2.0[2]. Die Lizenz erlaubt weltweit und gebührenfrei Nutzung, Bearbeitung, Weitergabe und Verkauf; wer weitergibt, muss unter anderem den Lizenztext beilegen[9]. Zusätzlich verweist die Modellkarte auf eine Nutzungsrichtlinie des Herstellers[2]; sie schließt bestimmte Einsätze aus und verlangt in Produkten Hinweise auf bekannte Grenzen und Risiken[10].

Was ist ein „geloopter“ Transformer, und merke ich davon etwas bei Tempo und Qualität?

Ein Transformer ist die Bauart heutiger Sprachmodelle. Beim geloopten durchläuft jeder Token einen Teil der Schichten mehrfach, bei Inkling 2 Mini die mittleren 12 dreimal[2]. Das bringt mehr Rechenschritte aus denselben gespeicherten Schichten, aber kein zusätzliches Faktenwissen[1]. Bei Hacker News wird bezweifelt, dass das auf Laptops automatisch schneller ist, weil die Schleifen mehr Speicherbandbreite brauchen[4].

Quellen
  1. Thinking Machines Lab: Inkling 2 Mini (20.11.2026): thinkingmachines.ai
  2. Thinking Machines Lab: Inkling-2-Mini, Modellkarte auf Hugging Face (20.11.2026): huggingface.co
  3. Hugging Face: Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup (20.11.2026): huggingface.co
  4. Hacker News: Inkling 2 Mini, Diskussion (20.11.2026, abgerufen 21.11.2026): news.ycombinator.com
  5. Artificial Analysis: Thinking Machines has released Inkling 2 Mini, an open weights looped transformer (20.11.2026): artificialanalysis.ai
  6. Ollama: inkling-2-mini (abgerufen 21.11.2026): ollama.com
  7. Ollama Docs: Vision (abgerufen 21.11.2026): docs.ollama.com
  8. ggml-org: Inkling-2-Mini-GGUF auf Hugging Face (abgerufen 21.11.2026): huggingface.co
  9. Apache Software Foundation: Apache License, Version 2.0 (01.2004): apache.org
  10. Thinking Machines Lab: Model Acceptable Use Policy (15.07.2026): thinkingmachines.ai
Wollen Sie lokale KI mit Ihren eigenen Aufgaben ausprobieren?
Wir testen offene Modelle wie Inkling 2 Mini an Ihren echten Beispielen, richten sie auf Ihrer Hardware ein und bauen daraus interne Chatbots oder automatisierte Abläufe. Mehr unter KI-Automatisierung.
Jetzt Kontakt mit uns aufnehmen
Tags:
Per WhatsApp schreiben