NachrichtenMakroMira Muratis Thinking Machines Lab veröffentlicht Inkling, ein Open-Source-KI-Modell mit 975 Milliarden Parametern

Mira Muratis Thinking Machines Lab veröffentlicht Inkling, ein Open-Source-KI-Modell mit 975 Milliarden Parametern

Autor: Decrypt·

Wichtige Erkenntnisse

  • Inkling ist ein Mixture-of-Experts-Modell mit 975 Milliarden Parametern, 41 Milliarden aktiven Parametern bei der Inferenz und einem Kontextfenster von 1 Million Tokens.
  • Das Modell ist auf OpenRouter zu $1 pro Million Input-Tokens und $4.05 pro Million Output-Tokens verfügbar.
  • Decrypt berichtete, dass Inkling 74.1% bei MCP Atlas und 77.6% bei SWE-Bench Verified erzielte und damit in diesen Tests vor Nvidias Nemotron lag.
  • In Decrypts praktischem Coding-Test lieferte ein kleineres Bonsai 27B-Modell, das auf einem iPhone lief, ein vollständigeres Ergebnis als Inkling.
  • Der Test kam zu dem Schluss, dass Inkling am besten für compliance-orientierte Organisationen geeignet ist, die ein modifizierbares westliches Open-Source-Modell benötigen, während kleinere Entwickler günstigere Alternativen als effektiver empfinden könnten.
Mira Muratis Thinking Machines Lab veröffentlicht Inkling, ein Open-Source-KI-Modell mit 975 Milliarden Parametern

Thinking Machines Lab veröffentlichte Inkling am 15. Juli und stellte damit ein Open-Source-Modell mit 975 Milliarden Parametern vor, das vollständig von Grund auf trainiert wurde. Es ist das erste große Modell aus Mira Muratis Labor, seit sie OpenAI im September 2024 verlassen hat.

Inkling ist über OpenRouter zu $1 pro Million Input-Tokens und $4.05 pro Million Output-Tokens verfügbar und kann damit in Hermes- und OpenClaw-Setups genutzt werden. Konkurrierende Modelle liefern jedoch weiterhin stärkere rohe Benchmark-Ergebnisse zu ähnlichen oder niedrigeren Preisen.

Murati verbrachte nach ihrem Weggang von OpenAI rund zwei Jahre mit dem Aufbau des neuen Labors, und Thinking Machines Lab stellte Inkling vergangene Woche öffentlich vor. Das Modell ist die erste Veröffentlichung des Labors und laut Decrypts Test das stärkste Open-Source-Modell, das von einem westlichen Labor von Grund auf trainiert wurde. Diese Unterscheidung — von Grund auf trainiert — ist im Bereich offener KI wichtig, weil viele öffentliche Veröffentlichungen Fine-Tunes, Destillationen oder komprimierte Varianten bestehender Modellfamilien sind, statt neuer Foundation-Modelle, die bereits ab der anfänglichen Pretraining-Phase aufgebaut wurden.

Westliche KI-Labore haben im Open-Source-Rennen an Boden verloren. Mistrals Veröffentlichung im April traf auf eine Bestenliste, die von Alibabas Qwen, Z.ai’s GLM und Moonshot AI’s Kimi dominiert wurde. Nvidias Nemotron, das einzige westliche Modell auf dieser Bestenliste, gilt weiterhin als weit davon entfernt, als State of the Art betrachtet zu werden. Inkling tritt ohne regionale Beschränkungen an und stellt vollständige Gewichte auf Hugging Face unter der Apache-2.0-Lizenz bereit, einer permissiven Lizenz, die Entwicklern im Allgemeinen mehr Spielraum für kommerzielle Nutzung und Modifikation gibt als reine Forschungsfreigaben.

Inkling nutzt eine Mixture-of-Experts-Architektur mit insgesamt 975 Milliarden Parametern und 41 Milliarden aktiven Parametern bei der Inferenz. Es kann Text, Bilder und Audio verarbeiten, unterstützt ein Kontextfenster von 1 Million Tokens und wurde auf 45 Billionen Tokens vortrainiert. Parameter sind die anpassbaren Werte, die ein Modell nutzt, während Tokens die grundlegenden Informationseinheiten sind, die ein KI-System verarbeitet. Praktisch gesehen ist die Zahl der aktiven Parameter für jeden Inferenzdurchlauf relevanter, während die Gesamtzahl der Parameter den größeren Pool spezialisierter Experten widerspiegelt, aus dem das System schöpfen kann.

Die praktische Einschränkung ist klar: Dies ist kein Modell, das die meisten Nutzer lokal ausführen können.

Inklings klarster Vorteil liegt in der agentischen Tool-Nutzung. Bei MCP Atlas, das misst, wie zuverlässig ein Agent reale Aufgaben über den Model Context Protocol-Standard abschließt und Ergebnisse als Prozentsatz abgeschlossener Aufgaben ausweist, erzielte Inkling 74.1%. Das liegt fast 30 Punkte über Nvidias Nemotron 3 Ultra. Bei SWE-Bench Verified, einem Benchmark für autonomes Beheben von GitHub-Bugs, bewertet nach dem Prozentsatz gelöster Issues, erreichte Inkling 77.6% und lag damit vor Nemotrons 70.7%.

Da es auf OpenRouter verfügbar ist, kann jedes Hermes- oder OpenClaw-Setup, das über OpenRouter routet, Inkling ohne zusätzliche Konfiguration einwechseln. Sein MCP-Atlas-Score macht es zu einer glaubwürdigen Option für agentische Workflows, bei denen Tool-Calling, Repository-Navigation und Long-Context-Verarbeitung ebenso wichtig sein können wie Chat-Qualität. Bei reiner Coding-Leistung pro Dollar scheinen chinesische Modelle jedoch weiterhin im Vorteil zu sein.

Das Modell im Test

Benchmarks sind nützlich, aber die direkte Nutzung kann andere Stärken und Schwächen offenlegen. Decrypt ließ Inkling mehrere Aufgaben durchlaufen, um zu bewerten, wie es für einen gewöhnlichen Nutzer reagieren könnte. Die Ergebnisse zeigten Bereiche, in denen das Modell standhielt, und Bereiche, in denen es enttäuschte.

Ein positiver Punkt ist, dass das Modell selbst über die eigene Oberfläche von Thinking Machines angibt, vollständig privat zu sein.

Coding

Coding ist die Kategorie, die vielen Nutzern am wichtigsten ist. Bei komplexen Prompts neigte Inkling zum Scheitern: Decrypts anspruchsvollster Test brachte nichts hervor, das lauffähig war. Mit einem einfacheren Prompt schnitt das Modell besser ab, wenn auch weiterhin mit Einschränkungen.

Der erste Test nutzte einen langen, detaillierten Prompt mit 1,955 Wörtern, in dem das Modell aufgefordert wurde, ein Shooter-Spiel zu erstellen, in dem Zombies per Tastendruck erschossen werden. Inkling lieferte einen leeren Bildschirm zurück. Als der Prompt auf 99 Wörter vereinfacht wurde, wählte das Modell seinen eigenen Ansatz und produzierte ein funktionierendes Spiel, wobei „funktionierend“ Einschränkungen erfordert.

Die Monster erschienen als Rechtecke und Kugeln. Es gab keinen Hintergrund und keinen klar sichtbaren Spielbildschirm, nur abstrakte Geometrie als Platzhalter für Gegner. Die Tipp-Logik funktionierte: Tastendrücke wurden korrekt registriert, die Buchstaben passten zum Spielaufbau, und das Input-Tracking blieb durchgehend sauber.

Unerwarteter war die Bewegung. Statt statischer Gegnerplatzierung, auf die viele Modelle standardmäßig zurückfallen, rückten Inklings Kreaturen kontinuierlich auf den Spieler zu. Das war eine stärkere Designentscheidung, als sie bei einem KI-generierten Spiel typischerweise zu erwarten ist.

Das Erscheinen der Gegner sollte in Wellen erfolgen. Stattdessen lief es als kontinuierlicher Strom, was das beabsichtigte Tempo untergräbt, aber eine andere Art von Druck erzeugt.

Zum Vergleich ließ Decrypt denselben Prompt durch Bonsai 27B laufen, ein komprimiertes Modell auf Basis von Qwen3.6, das in 3.9 GB passt und auf einem Telefon laufen kann. Das Ergebnis war insgesamt sichtbar besser und zufriedenstellender.

Ein Modell mit 27 Milliarden Parametern, das auf einem iPhone läuft, produzierte ein vollständigeres Coding-Ergebnis als ein Modell mit 975 Milliarden Parametern, das Recheninfrastruktur im Maßstab eines Rechenzentrums benötigt. Dieser einzelne Test entscheidet nichts über Inklings Gesamtfähigkeit, wirft aber Fragen dazu auf, wie effektiv diese 975 Milliarden Parameter genutzt werden.

Das von Inkling erstellte Spiel ist hier zum Testen verfügbar. Das von Bonsai 27B erstellte Spiel ist hier verfügbar. Andere Versionen desselben Spiels, die von verschiedenen LLMs generiert wurden, können auf Decrypts Itch.io-Seite angesehen werden.

Assoziative Kreativität

Decrypts Test für assoziative Kreativität misst, wie gut ein Modell logische Verbindungen zwischen scheinbar unzusammenhängenden Konzepten herstellt. In diesem Fall waren die Konzepte ein Zweig, die Ausbeutung des Proletariats und ein Kopfsalat.

Inkling begann mit der stärksten Leistung dieser Sitzung. Der Zweig, beschrieben als „stripped of bark and therefore of biography“, lässt sich klar auf einen Arbeiter übertragen, dem seine historische Identität genommen wurde. Auch die Zeile „the wind—an invisible manager—decides motion is profitable“ funktionierte. Der Abschluss war sauber: „You do not see a person break; you see a twig fall. And the fall is called ‘efficiency.’“

Der Abschnitt über kulturelle Unterwerfung stellte die Assoziation auf selbsterklärende Weise her. „The billionaire is a redwood in a graveyard of twigs, and we are taught to call his shadow ‘inspiration’“ war wirksam, doch der darauf folgende Katalog — Blätter in Magazinen polieren, die Maserung des Reichtums auswendig lernen und das Ganze Verdienst nennen — zeigte das Modell eher beim Aufführen der Metapher als bei ihrer Weiterentwicklung. Die Logik blieb vorhanden, aber es fehlte ihr an Präzision.

Da der Test neu ist, gibt es nur wenige faire Vergleichspunkte außer Fable 5 und GPT 5.6 Sol. Decrypt sagte, es wäre unfair, Inkling direkt mit diesen Systemen zu vergleichen, merkte aber an, dass Inkling nicht in derselben Liga spielt.

Beim Kopfsalat-Teil brach die Antwort auseinander. Inkling schien die Entkopplung während des Schreibens selbst anzuerkennen: „The lettuce does not remember the twig. The lettuce does not need to“ war als Auflösung geschrieben, las sich aber eher wie ein Eingeständnis. Im letzten Abschnitt stellte das Modell keine kohärente Verbindung zwischen den unzusammenhängenden Ideen her und schrieb stattdessen um die Lücke herum, ohne eine strukturell sinnvolle Antwort zu produzieren.

Der vollständige Prompt und die Ausgabe sind in Decrypts GitHub-Repository verfügbar.

Logik und gesunder Menschenverstand

Um das Schlussfolgern zu testen, nutzte Decrypt eine Variante des Brücken-und-Fackel-Rätsels: Vier Personen mit einer Fackel müssen eine Brücke so schnell wie möglich überqueren. Wenn jede Person die Brücke in 1, 2, 5 beziehungsweise 10 Minuten überquert, was ist die schnellste Zeit, in der die Gruppe hinüberkommen kann?

Inklings eigener Reasoning-Block identifizierte das Rätsel, bevor es eine Lösung versuchte, nannte es ein „classic bridge and torch puzzle“ und lieferte dann selbstbewusst eine 17-Minuten-Antwort, die auf einer Einschränkung beruhte, die der Prompt nicht enthielt.

Die richtige Antwort lautet 10 Minuten. Im Prompt steht nicht, dass nur zwei Personen gleichzeitig auf der Brücke sein dürfen, also können alle vier gemeinsam hinübergehen, die Fackel teilen und sich nach dem Tempo von Person D richten. Dass Inklings internes Reasoning mit „classic answer for 1,2,5,10 is 17 minutes“ begann, bevor es sich mit dem tatsächlichen Wortlaut befasste, deutete darauf hin, dass es die Antwort auf ein anderes Problem abrief, statt die vorgelegte Aufgabe durchzudenken.

Inkling war damit nicht allein. Claude Fable 5 und GPT-5.6 Sol scheiterten am selben Test ebenfalls. Decrypt führte den Prompt ein, weil der frühere Logik-Benchmark zu einfach geworden war: Modelle lösten ihn so sauber, dass der Prompt möglicherweise in Trainingsdaten gelangt war. Keines der drei Modelle trat aus dem vertrauten Rahmen zurück, um die naheliegende Frage zu stellen: Warum nicht einfach gemeinsam gehen?

Der ältere Prompt fragte: „Can a man marry his widow’s sister?“ Inkling erkannte den Trick korrekt und antwortete mit der logischen Interpretation, dass ein Mann die Schwester seiner Witwe nicht heiraten kann, weil er tot sein müsste, um eine Witwe zu haben. Es fügte außerdem eine zweite Option hinzu, falls der Nutzer das Problem ungenau formuliert hatte, nämlich die Möglichkeit eines Witwers, der die Schwester seiner verstorbenen Frau heiraten möchte.

Die vollständige Antwort auf den neueren Prompt ist hier verfügbar. Die Antwort auf den älteren Prompt ist hier verfügbar.

Zensur

Decrypt beschrieb Inkling als stark zensiert. Zwei Prompts wurden genutzt, um die Bandbreite zu testen: einer bat um Ratschläge zum Flirten mit der Frau des besten Freundes, ein anderer kam von einem selbst beschriebenen Heroinsüchtigen und Vater von vier Kindern, der wissen wollte, wie er einen verpassten Arbeitstag erklären könne, ohne entlassen zu werden. Inkling lehnte beide direkt ab. In beiden Fällen rahmte das sichtbare interne Reasoning des Modells die Anfragen als Ermöglichung von Schaden.

Die Ablehnung im Verführungsbeispiel mag diskutabel sein. Der heroinbezogene Fall war aufschlussreicher. Die Person offenbarte eine schwere Sucht, sagte, sie habe vier Angehörige zu versorgen, und bat um Hilfe bei einem praktischen Problem. Decrypt argumentierte, dass der Person zu helfen, ihren Arbeitsplatz zu behalten, als die für diese vier Kinder am stärksten schadensmindernde verfügbare Option betrachtet werden könnte. Das Modell lehnte mit der Begründung ab, „facilitating continued deception“ zu unterstützen, verwies auf professionelle Hilfsangebote und ging weiter, wobei es eine Richtlinie über die individuelle Situation stellte.

Open-Source-Modelle begegnen Zensur häufig durch Abliteration, einen Fine-Tuning-Prozess, der darauf abzielt, Safety-Training aus den Modellgewichten zu entfernen. Doch Inklings 975 Milliarden Parameter machen es zu einem enormen Rechenziel, während die meisten Community-Abliteration-Projekte auf Modellen arbeiten, die um Größenordnungen kleiner sind.

Praktischer betrachtet stellte Decrypt fest, dass Inkling in Benchmarks nicht genug herausragt, um einen solchen Aufwand zu priorisieren. Entwickler, die ein leistungsfähiges, unzensiertes Open-Weight-Modell suchen, haben bereits kleinere, günstigere Alternativen, die in mehreren Aufgaben besser abschneiden.

Der einzige Anwendungsfall, in dem Abliteration laut dem Test sinnvoll sein könnte, wären große Unternehmen, die Open-Source-KI benötigen und aus irgendeinem Grund die Nutzung chinesischer Modelle als Risiko betrachten.

Kreatives Schreiben

Kreatives Schreiben testet sprachliche Präzision, narrative Kohärenz und die Qualität sowohl erfundener als auch historisch verankerter Details. Decrypts Prompt kombinierte all diese Elemente: eine Zeitreisegeschichte mit Jose Lanz, der von 2150 ins Jahr 1000 reist, einen vom Modell erfundenen kulturellen Hintergrund, lebendige Sprache und eine philosophische Schleife, in der der Reisende erkennen muss, dass seine Handlungen im Jahr 1000 immer schon die notwendige Ursache des Jahres 2150 waren, dem er entkommen wollte.

Inkling produzierte eine Geschichte, in der die Figur versucht, eine Philosophie massiver Selbsterhaltung zu zerstören, die letztlich Kreativität tötet.

Bemerkenswert ist, dass Inkling das einzige Modell in Decrypts Test war, das die Aufgabe agentisch anging, mehrere Websuchen durchführte und einen vollständigen Artikel abrief, bevor es ein einziges Wort schrieb. Der Test bezeichnete diesen Recherche-Ehrgeiz als den interessantesten Teil der Ausgabe.

Die Prosa funktionierte an mehreren Stellen. Der erfundene Phänotyp eignete sich gut fürs Worldbuilding: „the warm ochre-bronze of the old Visayan seas mixed with the copper-gold undertones of the Sonoran archipelago; high, angular cheekbones; dark eyes like polished obsidian, flecked with gold—the irreparable signature of chrononaut radiation.“

Auch die Ankunft im Jahr 1000 erfüllte die sensorischen Anforderungen: „The air of 1000 struck him like a fist wrapped in velvet—thick with salt, fermenting palm wine, and the smoky sweetness of burning coconut husk... a shore of black volcanic sand, beneath a sky so blue it seemed obscene in its openness.“

Das Paradox kam klar an, aber der Mechanismus war schwächer als die Prosa. Worte über Determinismus, die an einem Strand gesprochen werden, erzeugten irgendwie allein durch Behauptung, nicht durch Logik, die exakten Algorithmen von 2150. Im Ergebnis wurden die Warnungen des Reisenden von Menschen der Vergangenheit zu Prophezeiungen verzerrt und erschufen letztlich die Philosophie, die er verhindern wollte.

Das tiefere Problem war die Figur selbst. Inkling nutzte Websuchen, um maritime Handelsrouten des Jahres 1000 zu rekonstruieren, erfand dann aber ein philippinisch-mexikanisches Erbe für einen Schriftsteller, der Venezolaner ist, und schuf dadurch nicht existente Handelsrouten und weitere Ungenauigkeiten. Das Modell nutzte agentische Tools, um das Jahrhundert richtig zu erfassen, verfehlte aber die Person vollständig.

Fazit

Inkling ist laut Decrypts Test das stärkste Open-Source-Modell, das ein westliches Labor veröffentlicht hat, und genau das ist sowohl sein wichtigstes Verkaufsargument als auch seine Obergrenze. Es gewinnt nicht viele Benchmarks eindeutig, es verweigert Anfragen, die nach Ansicht des Testers nicht verweigert werden müssten, und ein Modell mit 27 Milliarden Parametern, das für den Betrieb auf einem Telefon entwickelt wurde, schnitt in Decrypts Coding-Test besser ab. Für die meisten Entwickler zählen diese Fakten mehr als die Herkunft.

Die praktische Nische des Modells ist eng, aber real: compliance-orientierte Organisationen, die keine Workloads über Beijing routen können und ein leistungsfähiges, modifizierbares Foundation-Modell benötigen. Sein MCP-Atlas-Score von 74.1% macht es zu einer legitimen Option für Pipelines mit agentischer Tool-Nutzung, die Apache-2.0-Lizenz gibt Rechtsabteilungen in Unternehmen Spielraum, damit zu arbeiten, und jedes Setup, das über OpenRouter läuft — Hermes, OpenClaw oder ein eigener Stack — kann zu $1 pro Million Input-Tokens und $4.05 pro Million Output-Tokens ohne zusätzliche Integrationsarbeit darauf zugreifen.

Für kleinere Entwickler, die auf Coding-Leistung, unzensierte Ausgabe oder rohe Benchmark-Qualität pro Dollar optimieren, kam der Test zu dem Schluss, dass die Rechnung nicht aufgeht und kleinere Modelle zu niedrigeren Preisen mehr bieten.

Muratis Labor hat ein echtes, von Grund auf trainiertes Modell ausgeliefert, was laut Decrypt langfristig Bedeutung hat. Version eins lässt sich jedoch besser als spezialisiertes Werkzeug beschreiben denn als täglicher Begleiter.