Datalab hat Marker v2 veröffentlicht, eine vollständige Neufassung seiner Open-Source-Pipeline zur Dokumentkonvertierung. Marker wandelt PDF-, Bild-, PPTX-, DOCX-, XLSX-, HTML- und EPUB-Dateien in Markdown, JSON, HTML oder Chunks um — Ausgabeformate, die als direkte Eingabe für Retrieval-Augmented-Generation-Systeme (RAG), die Vorbereitung von LLM-Trainingsdaten und Enterprise-Wissenspipelines dienen, bei denen die Parsing-Genauigkeit die nachgelagerte Modellleistung bestimmt. Das Datalab-Team hat das Tool um drei in den vergangenen Monaten veröffentlichte Komponenten herum neu aufgebaut: Surya OCR 2, ein schnelles Layoutmodell mit 20M Parametern und eine neu entwickelte pdftext-Engine, die 3× schneller ist als die vorherige Version.

Die wichtigsten Benchmark-Ergebnisse stammen aus olmOCR-bench, einem von Allen AI (Ai2) erstellten Drittanbieter-Benchmark. Der balanced-Modus von Marker v2 erreicht insgesamt 76.0% und 83.5% bei born-digital PDFs und verarbeitet 2.9 Seiten pro Sekunde auf einer einzelnen B200-GPU. Dieser Durchsatz entspricht mehr als dem 5× der Geschwindigkeit des Pipeline-Backends von MinerU, das 72.7% bei 0.54 Seiten pro Sekunde erzielt. Docling erreicht auf demselben Test-Harness 50.3% bei 2.1 Seiten pro Sekunde.

Was ist neu in Marker v2

Marker v2 führt drei Konvertierungsmodi ein:

• Balanced — Das Surya VLM übernimmt das Layout, und eine erneute Vollseiten-OCR wird ausgelöst, wenn die Qualität des eingebetteten Textes schlecht ist. Dies ist der Modus mit der höchsten Qualität, optimiert für GPU. Erreicht 76.0% auf olmOCR-bench.
• Fast — Ein leichtgewichtiger rf-detr/onnx-Layoutdetektor kombiniert mit pdftext, mit minimalen und gezielten VLM-Aufrufen. Erzielt 66.6% bei deutlich niedrigeren Kosten.
• –disable_ocr — Reine Extraktion aus der Textebene ohne jegliche VLM-Aufrufe. Läuft vollständig auf CPU. Erzielt 43.6% bei 23.7 pg/s.

Die Modusauswahl ist nun standardmäßig gerätebewusst: balanced auf GPU, fast auf CPU/MPS, mit manueller Überschreibung über –mode. Vollständige CPU-Unterstützung ist die zweite strukturelle Änderung — der fast-Modus mit –disable_ocr benötigt weder GPU noch Inferenzserver, dennoch parst das Layoutmodell mit 20M Parametern weiterhin Spalten, Tabellen und Überschriften auf CPU.

Die dritte architektonische Änderung treibt die Durchsatzzahlen. Mehrere leichtgewichtige CPU-Worker teilen sich einen einzelnen Surya-Inferenzserver, während der Parent-Prozess die VLM-Parallelität über sie hinweg verwaltet. Dadurch skaliert der Durchsatz mit der Serverkapazität, statt durch den VRAM pro Prozess begrenzt zu sein. Datalab berichtet, dass der balanced-Modus etwa 2.9 pg/s aufrechterhält, verglichen mit einer Single-Stream-Rate von ~0.3 pg/s auf derselben Hardware.

Vor einem Upgrade sind mehrere Breaking Changes zu beachten. Python 3.10+ ist jetzt erforderlich. Das Packaging wurde von Poetry auf uv umgestellt, mit hatchling als Build-Backend, auch wenn pip install marker-pdf unverändert bleibt. Der Converter für strukturierte Extraktion und die Extractors wurden entfernt; Datalab verweist Nutzer alternativ auf die gehostete API oder einen –use_llm-Workflow.

Benchmark-Methodik

Der Bewertungsbenchmark ist olmOCR-bench von Ai2 und umfasst 1,403 PDFs mit etwa 8,400 Pass/Fail-Unit-Tests, die mathematische Darstellung, Tabellenstruktur, Lesereihenfolge, Kopf- und Fußzeilen sowie alte Scans abdecken. Die Gesamtbewertung ist der Makrodurchschnitt über die 8 Kategorien, berechnet mit dem offiziellen olmOCR-bench-Checker. Die Durchsatzzahlen geben dauerhaft gleichzeitige Seiten pro Sekunde auf einem einzelnen B200-Host an, nicht die Single-Stream-Latenz.

Zur Herkunft der Daten: Obwohl olmOCR-bench ein Drittanbieter-Benchmark von Ai2 ist, stammen alle Bewertungen und Durchsatzzahlen aus Datalabs eigenen Testläufen. Alle Ergebnisse sind über das offene Harness im Marker-Repository reproduzierbar, das neben Markers eigenem Runner auch Wettbewerber-Runner für MinerU, Docling und LiteParse enthält. Diese Zahlen spiegeln die Dokumentenmischung eines Benchmarks auf einer einzelnen Hardwarekonfiguration wider, sodass Ergebnisse auf anderen Korpora abweichen können. Evaluierende Teams sollten das Harness für aussagekräftige Vergleiche auf ihren eigenen Dokumentbeständen ausführen.

Marker v2 gegen MinerU

Das Pipeline-Backend von MinerU ist das architektonisch nächstliegende Gegenstück, da beide Tools die PDF-Textebene lesen und OCR selektiv anwenden. Bei der Gesamtbewertung liegt Marker balanced mit 76.0 zu 72.7 vorn. Bei born-digital Dokumenten liegen beide praktisch gleichauf, mit 83.5 gegenüber 83.3.

Der entscheidende Abstand liegt im Durchsatz. Marker balanced hält 2.9 pg/s gegenüber MinerUs 0.54 pg/s aufrecht — ein Abstand von 5.4× bei höherer Genauigkeitsbewertung. Marker fast erreicht 7.4 pg/s, etwa 13.7× der Pipeline-Rate von MinerU, liegt dafür aber 6.1 Punkte unter MinerU.

MinerU bietet außerdem ein VLM-Backend an, das laut Datalab besser abschneidet als sein Pipeline-Backend. Dieses Backend nutzt einen Vollseiten-VLM-Ansatz und ist in dieser Vergleichstabelle nicht enthalten. Teams, die MinerU evaluieren, sollten diese Option separat benchmarken.

Marker v2 gegen Docling

Docling zeigt unter den GPU-Pipelines den größten Leistungsabstand. Marker balanced führt insgesamt mit 76.0 zu 50.3 und bei born-digital Dokumenten mit 83.5 zu 64.0, während es zugleich schneller läuft: 2.9 pg/s gegenüber 2.1 pg/s. Datalab weist darauf hin, dass Docling mit seiner Standardpipeline evaluiert wurde, die bei born-digital Seiten die Textebene und für Bildregionen OCR nutzt.

Doclings Stärken liegen eher in Governance und Formatbreite als in reiner Genauigkeit. Die Codebasis steht unter MIT-Lizenz, entstand bei IBM Research und wird als Projekt innerhalb der LF AI & Data Foundation gehostet. Die unterstützten Eingabeformate gehen über Dokumente hinaus und umfassen auch Audio und E-Mail.

Marker v2 gegen LiteParse

LiteParse, entwickelt vom LlamaIndex-Team, ist ein Rust-basierter Dokumentparser, der auf einer grundsätzlich anderen Achse arbeitet. Auf CPU erzielt er insgesamt 22.4 und 20.4 mit deaktivierter OCR, verglichen mit Markers CPU-only-Wert von 43.6. Allerdings meldet LiteParse bei abgeschalteter OCR 1721 pg/s — etwa 73× den Durchsatz von Markers CPU-Modus, was einen klaren Kompromiss zwischen Geschwindigkeit und Struktur darstellt.

Markers fast-Modus mit –disable_ocr führt ein Layoutmodell mit 20M Parametern auf CPU aus und rekonstruiert dennoch Dokumentstruktur. Das erklärt, warum er die Bewertung eines reinen Text-Dumps mehr als verdoppelt. LiteParse verfügt über kein Layoutmodell und hat Schwierigkeiten mit nichtlinearen Dokumentlayouts.

Marker v2 gegen die Vollseiten-VLM-Klasse

Das Datalab-Team betont, dass Marker als Pipeline und nicht als VLM konzipiert ist, und weist darauf hin, dass es sich um unterschiedliche Werkzeugkategorien handelt. Diese Unterscheidung hat praktische Bedeutung: Vollseiten-VLMs verarbeiten jedes Dokumentbild Ende-zu-Ende durch ein großes Modell, erzielen höhere Genauigkeit, verursachen jedoch pro Seite Rechen- oder API-Kosten, die sich bei Skalierung summieren. Pipelines wie Marker zerlegen die Aufgabe in günstigere spezialisierte Stufen und tauschen Spitzengenauigkeit gegen Durchsatz und Kostenkontrolle. In dieser Evaluation erzielt Datalabs gehostetes Chandra 2 85.8, während Gemini Flash 3.5 über API 76.4 erreicht. Datalabs Chandra-Repository führt außerdem Ai2s olmOCR 2 mit 82.4 und dots.ocr 1.5 mit 83.9 in einer separaten Tabelle auf. Für Scans, mathematiklastige Seiten und maximale Genauigkeit bleibt die VLM-Klasse allen aufgeführten Pipelines überlegen.

Bemerkenswert ist, dass Markers balanced-Modus den Abstand auf nur 0.4 Punkte hinter Gemini Flash 3.5 insgesamt reduziert und es bei born-digital Dokumenten mit 83.5 zu 79.1 sogar übertrifft — ohne einen API-Aufruf pro Seite zu erfordern.

Verhalten nach Kategorie

Der gewählte Modus beeinflusst nicht nur die Gesamtbewertung, sondern auch das Fehlerprofil. Die mathematische Darstellung ist der deutlichste Unterscheidungsfaktor: Der fast-Modus liest Gleichungen aus der PDF-Textebene, statt sie per VLM-OCR zu erfassen, wodurch arXiv-Mathematikwerte von 83.9 auf 23.4 fallen; –disable_ocr erzielt in dieser Kategorie absichtlich 0.0. Außerhalb der beiden Mathematikkategorien sind alte Scans in jedem Modus die schwächste Untergruppe und erreichen höchstens 43.2.

Lizenzierung

Die Lizenzbedingungen unterscheiden sich zwischen den vier Systemen erheblich, was direkte Auswirkungen auf kommerzielle Teams hat — insbesondere, da Dokumentparsing häufig regulierte Workflows speist, in denen Herkunft und Lizenzkonformität prüfbare Anforderungen sind:

• Marker: Der Code steht unter Apache 2.0. Die Modellgewichte verwenden eine modifizierte AI Pubs OpenRAIL-M-Lizenz — kostenlos für Forschung, private Nutzung und Start-ups unter $5M an Finanzierung oder Umsatz. Oberhalb dieser Schwelle erfordert die kommerzielle Nutzung der Gewichte eine kostenpflichtige Lizenz.
• MinerU: Unterliegt nun der MinerU Open Source License, basierend auf Apache 2.0 mit zusätzlichen Bedingungen. Eine separate kommerzielle Lizenz ist ab 100M MAU oder $20M Monatsumsatz erforderlich, und darauf aufbauende Onlinedienste müssen diesen Umstand offenlegen.
• Docling: MIT-lizenziert, wobei Modelllizenzen separat in ihren ursprünglichen Paketen verfolgt werden.
• LiteParse: Open Source, von run-llama, mit LlamaParse als kostenpflichtiger Cloud-Option für die Verarbeitung schwieriger Dokumente positioniert.

Überlegungen zum Anwendungsfall

Benchmark-Werte allein bestimmen nicht das richtige Tool. Korpustyp, verfügbare Hardware, Lizenzstufe und erforderliches Ausgabeformat fließen alle in die Entscheidung ein. Teams, die born-digital PDFs im großen Maßstab verarbeiten, sehen möglicherweise nur geringe Genauigkeitsunterschiede zwischen den führenden Pipelines, während bei gescannten Dokumenten, wissenschaftlichen Arbeiten mit dichter Mathematik oder gemischten Formatkorpora größere Abweichungen auftreten. Teams sollten jeden Parser anhand ihrer eigenen Dokumentbestände und betrieblichen Rahmenbedingungen evaluieren.

Alle Benchmark- und Durchsatzzahlen werden von einem reproduzierbaren benchmarks/-Harness im Marker-Repository begleitet.

Wichtige Referenzen

• Marker v2 GitHub-Release
• Datalab-Blogbeitrag zu Marker v2
• Ankündigung auf X
• olmOCR-bench-Repository (Ai2)

Quelle: MarkTechPost