Das chinesische KI-Start-up DeepSeek hat DeepSeek-V4.1-Flash veröffentlicht, das nach eigenen Angaben kleinste Modell einer neuen Architektur-Familie. Die Veröffentlichung erfolgt, während das Unternehmen Berichten zufolge einen Börsengang am technologieorientierten STAR Market in Shanghai vorbereitet.

Das multimodale Modell verfügt über ein Mixture-of-Experts-Backbone mit 552 Milliarden Parametern und unterstützt Kontextfenster von bis zu einer Million Tokens. Der wichtigste Fortschritt liegt eher in der Effizienz als in der reinen Größe. DeepSeeks kausale Encoder-Decoder-Architektur teilt 40 Transformer-Schichten in separate 20-schichtige Kodierungs- und Dekodierungsstufen auf. Dadurch werden für jedes Eingabe-Token 8 Milliarden Parameter und für jedes generierte Token 16 Milliarden Parameter aktiviert.

Die Architektur zielt auf agentenbasierte Aufgaben mit hohem Eingabeanteil ab, bei denen die Verarbeitung großer Dokumente, Codebasen oder Gesprächsverläufe einen erheblichen Teil der Rechenkosten ausmachen kann. DeepSeek erklärte, dass seine Methode SWA Bounded Replay die dauerhafte Speicherung ausgewählter Attention-Zustände auf Solid-State-Speichern überflüssig macht und den persistenten KV-Cache-Footprint auf etwa ein Achtel des Werts von DeepSeek-V4-Flash reduziert.

Ein verwandtes System namens Compressed Sparse Attention 2 weist den Schichten statische Attention-Modi zu und verwendet ausgewählte Attention-Indizes wieder. In Kombination mit FP4-formatiertem Key-Value-Caching senkt es den globalen KV-Cache-Bedarf auf 890 Byte pro Token beziehungsweise etwa ein Viertel des Bedarfs des vorherigen Flash-Modells. Diese Werte beziehen sich auf den Speicher, der während der Inferenz zum Erhalt des Kontexts verwendet wird, und sind vom Gesamtumfang der Modellparameter getrennt. V4.1-Flash umfasst außerdem bedingten Speicher und speculative decoding und verwendet pro MoE-Schicht einen gemeinsamen Experten sowie 384 geroutete Experten.

Die offizielle Website von DeepSeek ist das Modell ist unter verfügbar.

Introducing DeepSeek-V4.1-Flash: smarter, faster, more efficient. Introducing the smallest model in our new architecture family, with native visual understanding. Designed for greater capability, faster inference, higher throughput, and scaling to larger models. 1/6 pic.twitter.com/wxJGiyX56o — DeepSeek (@deepseek_ai) September 10, 2026

Die Ankündigung ist außerdem auf X verfügbar: und https://x.com/deepseek_ai/status/2097930608790167907?ref_src=twsrc%5Etfw.

Vergleichsergebnisse bei Schlussfolgerungen, Coding und Agenten

DeepSeek trainierte V4.1-Flash von Grund auf mit 45 Billionen multimodalen Tokens, wobei Bilder von Beginn des Pretrainings an nativ zusammen mit Text verarbeitet wurden. Das Training mit Sparse Attention begann bei 64.000 Tokens, bevor die Kontextlänge in der Phase mit 34 Billionen Tokens auf eine Million Tokens erweitert wurde. Das Post-Training kombinierte überwachtes Fine-Tuning, Reinforcement Learning und On-Policy-Destillation. Der Aufwand für Schlussfolgerungen kann auf einer Skala von eins bis 100 konfiguriert werden.

Die gemeldeten Benchmarks zeigen eine starke Leistung im Vergleich zu deutlich größeren Modellen. Die Basisversion erreichte 74.1 bei MMLU-Pro, 79.4 bei HumanEval und 93.0 bei GSM8K, verglichen mit 73.5, 76.8 und 92.6 für DeepSeek-V4-Pro-Base. Bei maximalem Schlussfolgerungsaufwand erzielte V4.1-Flash 90.6 bei Terminal-Bench 2.1 und 74.2 bei DeepSWE v1.1 und lag bei diesen Agenten-Benchmarks damit knapp vor führenden Opus- und GPT-Modellen. Außerdem erreichte es ein Codeforces-Rating von 3,471 und erzielte das beste gelistete Ergebnis bei MathArena Apex.

Die Ergebnisse waren jedoch nicht durchgehend überlegen. Bei GPQA Diamond, Humanity’s Last Exam und SimpleQA blieb V4.1-Flash hinter den größten Vergleichsmodellen zurück. Auch bei den neueren Evaluierungen Terminal-Bench 3.0 und 4.0 lagen seine Werte hinter Opus-5.0, obwohl sie deutliche Fortschritte gegenüber früheren DeepSeek-Modellen darstellten.

Zu den multimodalen Ergebnissen gehörten 56.5 bei MMMU-Pro, 77.9 bei CVBench und 95.6 bei DocVQA. Bei aktiviertem Einsatz von Agenten-Tools erzielte das Modell 78.9 bei Chartography und 89.6 bei BabyVision.

Der ursprüngliche Bericht wurde von Metaverse Post veröffentlicht: https://mpost.io/new-deepseek-v4-1-flash-challenges-larger-ai-systems-on-coding-and-agent-tasks/